Facebook вимкнув систему штучного інтелекту, оскільки боти винайшли свою мову

Керівництво соціальної мережі Facebook змушене було вимкнути свою систему штучного інтелекту, після того як машини почали спілкуватися на власній, неіснуючій мові, якої люди не розуміли, пише BBC.

Система використовує чат-боти, які спочатку створювалися для спілкування з живими людьми, але поступово почали спілкуватися між собою.

Спочатку вони спілкувалися англійською мовою, але в якийсь момент почали листуватися мовою, яку вони самі створили в процесі розвитку програми.

В американських ЗМІ з’явилися уривки з «діалогів», які вели між собою віртуальні співрозмовники [орфографія і пунктуація збережені].

Боб: Я можу могуЯЯ все інше.

Еліс: Кулі мають нуль для мене для мене для мене для мене для мене.

Як пояснює видання Digital Journal, системи штучного інтелекту спираються на принцип «заохочення», тобто продовжують дії за умови, що це принесе їм певну «користь». У певний момент вони не отримали від операторів сигнал заохочення використання англійської мови, тому й вирішили створити свою власну.

Видання Tech Times зазначає, що у роботів спочатку не було обмежень у виборі мови, тому поступово вони й створили свою мову, якою вони можуть спілкуватися простіше й швидше, ніж англійською.

Експерти побоюються, що якщо боти почнуть активно спілкуватися своєю власною мовою, то поступово стануть більш самостійними і зможуть функціонувати поза контролем IT-фахівців. Тим більше, що навіть досвідчені інженери не можуть повністю відстежувати хід розумового процесу ботів.