ChatGPT та інші чат-боти, керовані штучним інтелектом, можуть говорити плавними, граматично обґрунтованими реченнями, які навіть можуть мати природний ритм.
Але не спонукайтеся сприймати цю добре виконану промову як думку, емоцію чи навіть намір, кажуть експерти.
Те, як працює чат-бот, більше схоже на машину, яка виконує математичні розрахунки та статистичний аналіз, щоб викликати потрібні слова та речення відповідно до контексту, кажуть експерти. Є багато тренінгів на серверній частині (включно з людьми-анотаторами, які також надають відгуки), що допомагає імітувати функціональні розмови.
Такі боти, як ChatGPT, також навчаються на великій кількості розмов, які навчили машини взаємодіяти з людьми-користувачами. OpenAI, компанія, що стоїть за ChatGPT , повідомляє на своєму веб-сайті, що її моделі отримують інформацію з низки джерел , у тому числі від своїх користувачів і матеріалів, на які вона ліцензувала.
Ось як працюють ці чат-боти:
Чат-боти штучного інтелекту, такі як ChatGPT від OpenAI, засновані на великих мовних моделях, або LLM, які є програмами, які навчаються на обсягах тексту , отриманого з опублікованих текстів та інформації в Інтернеті — як правило, контенту, створеного людьми.
За словами експертів, системи навчаються на серіях слів і вивчають важливість слів у цих серіях. Отже, усі ці отримані знання не лише тренують великі мовні моделі на фактичній інформації , але й допомагають їм розпізнати божественні моделі мови та те, як слова зазвичай використовуються та групуються разом.
Люди також додатково навчають чат-ботів надавати відповідні відповіді та обмежувати шкідливі повідомлення .
«Ви можете сказати: «Це токсично, це надто політично, це думка» і сформулювати це так, щоб не породжувати ці речі», — сказав Крістіан Хаммонд, професор інформатики Північно-Західного університету. Хаммонд також є директором університетського Центру підвищення безпеки машинного інтелекту .
Коли ви просите чат-бота відповісти на просте фактичне запитання, процес відкликання може бути простим: він використовує набір алгоритмів для вибору найбільш вірогідного речення для відповіді. І він вибирає найкращі можливі відповіді протягом мілісекунд, і з цих найкращих варіантів вибирає одну випадковим чином. (Ось чому багаторазове ставлення одного й того самого запитання може призвести до дещо різних відповідей).
Він також може розбивати запитання на кілька частин, відповідаючи на кожну частину по черзі та використовуючи свої відповіді, щоб допомогти завершити відповідь.
Скажімо, ви попросили бота назвати ім’я президента США, ім’я якого схоже на ім’я виконавця головної ролі у фільмі «Камелот». Бот може спочатку відповісти, що актором є Річард Харріс, а потім використати цю відповідь, щоб дати вам Річарда Ніксона як відповідь на ваше початкове запитання, сказав Хеммонд.
"Власні відповіді раніше стають частиною підказки", - сказав Хаммонд.
Але слідкуйте за тим, чого не знають чат-боти
Що відбувається, коли ви ставите йому запитання, на яке він не знає відповіді? Саме тут чат-боти створюють найбільше проблем через внутрішню рису — вони не знають того, чого не знають. Тож вони екстраполюють, спираючись на те, що вони знають, тобто роблять припущення.
Але вони не кажуть вам, що здогадуються — вони можуть просто представити інформацію як факт. Коли чат-бот вигадує інформацію, яку він представляє користувачеві як правдиву, це називається «галюцинацією».
«Це те, що ми називаємо знанням про знання або метапізнанням», — сказав Вільям Ван, доцент, який викладає інформатику в Каліфорнійському університеті в Санта-Барбарі. Він також є співдиректором групи обробки природної мови в університеті.
«Модель насправді не дуже добре розуміє відомі невідомі», — сказав він.