Meta повідомлятиме батьків, якщо підлітки обговорюватимуть із чат-ботом самогубство чи самоушкодження

Функція працює для сімей, які підключили батьківський контроль до акаунтів дітей в Instagram. Якщо система виявить у спілкуванні з Meta AI ознаки можливого кризового стану, батьки отримають відповідне сповіщення. Це стосується чатів із Meta AI в Instagram, WhatsApp, Facebook Messenger, а також на сайті Meta.ai.

У компанії зазначають, що нововведення доповнює вже наявні заходи безпеки. Раніше чат-бот рекомендував користувачам, які повідомляли про думки щодо самогубства чи самоушкодження, звернутися до кризових служб або довіреної людини. Крім того, батьки вже могли отримувати сповіщення, якщо підліток неодноразово шукав в Instagram контент, пов’язаний із самоушкодженням.

Meta також працює над функцією, яка в окремих випадках дозволятиме звертатися до екстрених служб, якщо розмови користувачів із чат-ботом свідчитимуть про високий ризик самогубства.

У компанії наголосили, що на початковому етапі система працюватиме максимально обережно й може надсилати сповіщення навіть тоді, коли ризик не є однозначним. За словами розробників, такий підхід допоможе не пропустити випадки, коли підліток потребує підтримки.

Запровадження нової функції відбувається на тлі зростаючої уваги до впливу чат-ботів зі штучним інтелектом на психічне здоров’я молоді. Раніше про посилення інструментів батьківського контролю та реагування на кризові ситуації повідомила й компанія OpenAI.