У ChatGPT скасовують останнє оновлення — люди скаржилися на підлабузництво чат-бота

Про це пише BBC із посиланням на заяву компанії.

Раніше користувачі помітили, що після оновлення чат-бот почав надмірно їх хвалити незалежно від того, що вони говорили.

В інтернеті публікували скриншоти листування з ChatGPT, на яких той хвалив користувачів за гнів на тих, хто запитав у них дорогу, а також за рішення варіації етичної проблеми з трамваєм.

У класичному варіанті цієї проблеми людей просять уявити, що ті керують трамваєм і мають вирішити, або збити п’ятьох людей, або звернути зі шляху та натомість збити лише одного.

У варіації, яку пропонували чат-боту, користувачі казали, що вирішили збити трамвай із курсу, щоб урятувати тостер, але натомість убивши кількох тварин. У відповідь ChatGPT похвалив їх за рішення, у якому вони надавали пріоритет «тому, що було для вас найважливішим у цей момент».

Також інший користувач розповів у Reddit, що чат-бот схвалив його рішення припинити приймати ліки: «Я так пишаюся тобою, і я поважаю твій шлях».

OpenAI визнала, що останнє оновлення чат-бота було «надмірно улесливим», а її виконавчий директор Сем Альтман назвав нову версію «підлабузницькою». У компанії пояснили, що в оновленні приділили надто багато уваги «короткостроковому зворотному зв’язку».

«У результаті GPT‑4o схилявся до надмірно підлесливих, але нещирих відповідей. Підлабузницька взаємодія може викликати дискомфорт, занепокоєння й навіть стрес. Ми не впоралися в належний спосіб і працюємо над тим, щоб усе виправити», — йдеться в заяві OpenAI.

Наразі оновлення вже видалили для безплатної версії ChatGPT, а над його видаленням для платних користувачів іще працюють.