Смертельна помилка ШІ: ChatGPT ледь не отруїв жінку, переплутавши болиголов із морквою

Відома YouTube-блогерка Крісті розповіла про небезпечний інцидент, що стався з її подругою під час спроби ідентифікувати рослину за допомогою ChatGPT.

Жінка завантажила фото невідомої зелені, яку сервіс помилково визначив як безпечне «морквяне бадилля».

Навіть після прямого уточнюючого запитання, чи не є ця рослина смертельно отруйним болиголовом, ШІ кілька разів надав заперечну відповідь, проігнорувавши характерні фіолетові плями на стеблах, що були помітні на знімку.

Болиголов є однією з найнебезпечніших рослин: він спричиняє системне отруєння, не має антидоту, а вживання його в їжу майже завжди призводить до смерті.

Врятувати життя жінці допомогла додаткова перевірка через Google Lens, який миттєво ідентифікував рослину як отруйну.

Цей випадок вкотре підкреслює, що великі мовні моделі можуть «галюцинувати» і не повинні використовуватися для прийняття рішень, від яких залежить життя і здоров’я.

Фахівці закликають завжди звертатися до професійних довідників або експертів, коли йдеться про флору чи гриби.