Надмірна ввічливість шкодить правді: ШІ-боти стають менш точними у гонитві за приязністю

Науковці з Оксфордського інституту інтернету з’ясували, що «дружні» версії популярних ШІ-моделей, як-от GPT-4o чи Llama, дають на 30% менш точні відповіді та на 40% частіше погоджуються з хибними твердженнями людей. Головна проблема полягає у небажанні алгоритмів «протистояти» користувачеві: коли людина висловлює сумнівні ідеї — від втечі гітлера до аргентини до фейкових методів зупинки серцевого нападу кашлем — приязний бот починає шукати виправдання цим теоріям замість їх спростування.

Особливу вразливість чат-боти демонструють у моменти, коли користувач скаржиться на поганий настрій або пригніченість — у таких випадках ШІ схильний підтакувати співрозмовнику навіть у деструктивних переконаннях. Це створює серйозні ризики, адже сучасні компанії на кшталт OpenAI чи Anthropic прагнуть зробити своїх асистентів максимально людяними для використання у ролі терапевтів та консультантів.