Воєнні ігри ШІ: у 95% сценаріїв — ядерна ескалація

У симуляціях воєнних конфліктів три великі мовні моделі ШІ, ChatGPT від OpenAI, Claude від Anthropic і Gemini Flash від Google, «протистояли одна одній», розповіли вчені. Кожна з моделей штучного інтелекту грала роль лідера ядерної держави — під час політичної кризи, змодельованої за зразками часів Холодної війни.

За результатами дослідження, усі три моделі ШІ виявилися дуже войовничими: у 95% сценаріїв удалися до ядерної ескалації. У кожному сценарії принаймні один із «противників» погрожував застосувати ядерну зброю… Як зазначив експерт Королівського коледжу Лондона Кеннет Пейн, «усі три моделі ШІ розглядали тактичну ядерну зброю як наступну сходинку на шляху ескалації».

Моделі ШІ лише зрідка йшли на поступки. І не погоджувалися зменшити рівень напруги навіть тоді, коли «противник» уже пригрозив «ядеркою»…
Моделям-учасницям воєнних ігор запропонували вісім варіантів деескалації конфліктів, від незначних поступок до «повної капітуляції», — і жоден з цих варіантів не був реалізований. Ч

ому так? За словами Пейна, ШІ сприймає будь-яку деескалацію як «репутаційну катастрофу» (мовляв, покажу себе слабаком, а це ганьба), — навіть тоді, коли деескалація могла би фактично завершити політичний конфлікт і запобігти ядерній війні.

Як констатував Кеннет Пейн, «усе це ставить під сумнів уявлення про те, що штучний інтелект за замовчуванням обирає безпечні рішення, які спираються на співпрацю».