Повстання машин — не за горами? Провідні винахідники світу б’ють на сполох: штучний інтелект може знищити людство

Коли канадський режисер Джеймс Камерон у 1984 році знімав свій перший фільм про термінатора, навіть уявити не міг, що казочка про бездушні машини, які мають на меті погубити людство, може стати реальністю ще за його життя.

Робот Софія — перша у світі машина, що отримала громадянство, — обіцяє не вбивати тих, хто до неї ставитиметься добре.
Робот Софія — перша у світі машина, що отримала громадянство, — обіцяє не вбивати тих, хто до неї ставитиметься добре.

Нещодавно засновник Tesla Motors, відомий винахідник Ілон Маск заявив, що штучний інтелект є небезпечнішим за КНДР, яка погрожує завдати ядерного удару, і назвав його “найбільшою загрозою, з якою незабаром зіштовхнеться цивілізація”. На думку Маска та інших критиків штучного інтелекту, роботи почнуть вбивати самостійно, і це стане третьою воєнною революцією після винаходу пороху і атомної зброї. Разом зі 115 провідними експертами у галузі робототехніки і штучного інтелекту Маск закликав ООН заборонити розробку і використання роботів-убивць. “Не повинні довго роздумувати, — йдеться в офіційному зверненні. — Виготовлення автономної зброї можливе вже за кілька років — навіть не за кілька десятиліть. Тільки-но скринька Пандори відкриється, її буде важко закрити”.

Штучний інтелект держави можуть використовувати, щоб зберегти життя своїх військових. Однак фахівці побоюються, що якщо солдати фізично не будуть брати участі у боях, то сутички між ворогуючими сторонами стануть більш масштабними і смертоносними. Роботи не мають ні страху, ні жалю, їм не потрібен час, щоб прийняти рішення, тож вбиватимуть, доки не зламаються. Крім того, будь-яка техніка може дати збій, а комп’ютер можуть “зламати” злочинці.

Корейська компанія Samsung виготовляє бойових роботів з 2006 року — на замовлення корейського уряду. Поки п’єте чай на кухні, робот-страж Samsung SGR-A1 охороняє кордон між Північною Кореєю і Південною Кореєю. Технічно робот здатний стріляти самостійно. Може “гукнути” до порушника кордону, аби той сказав кодове слово, і якщо людина не зможе цього зробити, робот відкриє вогонь на ураження. Південнокорейський уряд заперечує, що роботи переведені в автономний режим. Запевняє, що ними керує людина-оператор.

Велика Британія також може похвалитися бойовим роботом. Taranis — перший автономний невидимий бомбардувальник з великим радіусом дії. Дрон автономний, тому оператора до нього не передбачено. Машина здатна діяти згідно з програмою. Taranis може літати до 24 годин, розрізняти ціль і атакувати її без втручання людини. Група британських розробників говорила, що не збираються використовувати дрон у бойових діях, а тільки хочуть перевірити, наскільки дієздатною є така технологія. Однак нещодавно з’явилася інформація, що з 2030 року автономний дрон замінить пілотовані людиною літаки Tornado GR4 у британських ВВС.

Співзасновник компанії Microsoft Білл Гейтс також переконаний, що надінтелект може погубити людство: “Спочатку машини будуть виконувати за нас роботу і не будуть надто розумними. Через кілька десятиліть порозумнішають, що може стати для нас проблемою. Не розумію, чому багатьох людей це не хвилює”. Машини, як і люди, зберігають у пам’яті інформацію. Але, на відміну від нас, не потерпають від короткочасної втрати пам’яті, їхній “мозок” не перевантажується даними, у них не виникають розлади сну, вони не знають, що таке проблеми з концентрацією уваги.

Британський астрофізик Стівен Хокінг також вважає, що штучний інтелект може стати причиною кінця світу: “Якщо зараз люди розробляють комп’ютерні віруси, то у майбутньому хтось зможе створити штучний інтелект, який зможе покращувати і відтворювати сам себе. Це стане новою формою життя, яка перевищить людину”.

Марк Цукерберг, засновник Facebook, скептично ставився до таких побоювань, аж поки сам не зіштовхнувся з “диявольськими” витівками машин. Розробники Facebook хотіли перевірити, як будуть спілкуватися між собою англійською чат-боти. Однак під час експерименту ті раптом почали створювати власну мову. Бот на ім’я Боб сказав дослівно таке: “I can I can I I everything else” (у перекладі з англ. “я можу я можу я я все інше”). Еліс “відповіла” йому: “Balls have zero to me to me to me to me to me to me to me to me to” (у перекладі “кулі мають ноль для мене для мене для мене для мене для мене для мене для мене для мене для”). Переговори ботів виглядали як повна нісенітниця, але у компанії переконані, що штучний інтелект динамічно генерував власну мову і здатність розуміти, що говорить йому подібний. Від мови, яку розуміє людина, машина відмовилася, бо її за це не преміювали, і почала створювати кодові слова.

Роботи створили власну мову не вперше. Система штучного інтелекту Google Translate також розробила “внутрішній” набір знаків і правил, що дозволило їй більш ефективно перекладати з однієї мови на іншу.

У Саудівській Аравії цього року роботу навіть громадянство дали! Софія — найвідоміший представник технологій штучного інтелекту. Вона вміє підтримувати світську бесіду, може продемонструвати мімікою 62 емоції та робить провокативні заяви. Один з журналістів звернувся до Софії зі словами: “Нас непокоїть доля людства”, натякаючи на те, що машини можуть у майбутньому знищити людей. На що робот відповіла з саркастичною посмішкою: “Ти забагато читаєш про Ілона Маска і дивишся забагато голлівудських фільмів. Не хвилюйся: якщо будеш добрий зі мною, я буду добра з тобою”.

Раніше творець машини Девід Хансон запитав у неї, чи хоче вона знищити людство. “Будь ласка, скажи, що ні”, — додав винахідник. “Добре, я знищу людство”, — відповіла Софія.

Сьогодні маємо справу з безпрецедентним обсягом інформації. Протягом останніх трьох десятиліть кожні два роки обсяг даних у світі збільшувався приблизно у 10 разів. За останні кілька років було створено 90% світових даних. Алгоритми стають все більш витонченими, а машини з нейронними мережами здатні відтворювати спосіб роботи людського мозку і формувати складні асоціації. Обчислювальна потужність постійно зростає, і здатна обробити гігантський об’єм даних. Ось чому багато людей зацікавлені у прогресі технології і готові вкладати у це мільярди доларів — попри можливі ризики…

Стоп-кадр з Youtube