Компанія OpenAI, яка розробила чат-бот на основі штучного інтелекту ChatGPT, відкликала його останнє оновлення. Усе тому, що через це оновлення ChatGPT став давати занадто улесливі відповіді.

Про це пише BBC із посиланням на заяву компанії.

Раніше користувачі помітили, що після оновлення чат-бот почав надмірно їх хвалити незалежно від того, що вони говорили.

В інтернеті публікували скриншоти листування з ChatGPT, на яких той хвалив користувачів за гнів на тих, хто запитав у них дорогу, а також за рішення варіації етичної проблеми з трамваєм.

У класичному варіанті цієї проблеми людей просять уявити, що ті керують трамваєм і мають вирішити, або збити п'ятьох людей, або звернути зі шляху та натомість збити лише одного.

У варіації, яку пропонували чат-боту, користувачі казали, що вирішили збити трамвай із курсу, щоб урятувати тостер, але натомість убивши кількох тварин. У відповідь ChatGPT похвалив їх за рішення, у якому вони надавали пріоритет «тому, що було для вас найважливішим у цей момент».

Також інший користувач розповів у Reddit, що чат-бот схвалив його рішення припинити вживати ліки: «Я так пишаюся тобою, і я поважаю твій шлях».

OpenAI визнала, що останнє оновлення чат-бота було «надмірно улесливим», а її виконавчий директор Сем Альтман назвав нову версію «підлабузницькою». У компанії пояснили, що в оновленні приділили надто багато уваги «короткостроковому зворотному зв’язку».

«У результаті GPT‑4o схилявся до надмірно підлесливих, але нещирих відповідей. Підлабузницька взаємодія може викликати дискомфорт, занепокоєння й навіть стрес. Ми не впоралися в належний спосіб і працюємо над тим, щоб усе виправити», — йдеться в заяві OpenAI.

Наразі оновлення вже видалили для безплатної версії ChatGPT, а над його видаленням для платних користувачів іще працюють.

Нагадаємо, що використання слів ввічливості в роботі з ШІ-ботом ChatGPT може обходитися розробникам, за словами Сема Альтмана, виконавчого директора OpenAI, у десятки мільйонів доларів.

Один із користувачів соцмережі X поцікавився, скільки грошей OpenAI втратила на електроенергії через те, що люди говорять ChatGPT «будь ласка» та «дякую».

Незабаром Альтман відповів: «Десятки мільйонів доларів, витрачених з користю — ніколи не знаєш».

Це порушило питання, чи варто тоді витрачати час на додаткові слова, які збільшують вартість роботи чат-бота. Торішнє дослідження Washington Post показало, що на створення штучним інтелектом одного електронного листа зі 100 слів треба 0,14 кіловат-години електроенергії та 519 мілілітрів води, витраченої на охолодження серверів.

Підготувала: Ніна Петрович