ChatGPT почти уби жена, след като ѝ даде съвет за отровно растение

Предупреждението дойде от Кристи,

която сподели инцидента с близо половин милион свои последователи в Instagram.

В поредица от публикации и видеоклипове тя обясни, че нейна приятелка е изпратила снимки на непознато растение, растящо в градината ѝ, до ChatGPT, задавайки прост въпрос: 

какво растение е това?

Когато увереността замества предпазливостта

Според екранните снимки, споделени от Кристи, чатботът е идентифицирал растението като листа от морков. Той е посочил

„фино разделените и перести листа“

като класически признак на връхчетата на морковите и е изразил увереност в заключението си, казвайки, че е „много малко вероятно“ да е отровното растение бучиниш.

Изкуственият интелект е предоставил и списъци с често срещани прилики, включително магданоз, кориандър и др.

Притеснена, приятелката на Кристи попитала директно дали растението може да е отровната билка бучиниш.

ChatGPT я уверил многократно, че не е така.

„Не знам дали знаете това, ако го изядете, ще умрете. Ако го докоснете, можете да умрете“, 

каза Кристи на своите последователи, подчертавайки опасността от отровата на бучиниша.

По-късно тя сподели информация, която е открила независимо, отбелязвайки, че бучинишът причинява системно отравяне и няма противоотрова.

Уверенията продължили дори след като приятелката ѝ изпраща допълнителни снимки.

ChatGPT отново отхвърля отровният бучиниш като възможност, заявявайки, че растението не показва гладки, кухи стъбла с лилави петна, въпреки че Кристи посочи, че тези характеристики изглеждат ясно видими на снимките.

В един момент чатботът дори предположил,

че растението може да е листа от морков, растящи в споделена училищна градина, където работи приятелката на Кристи.

Разтревожена, Кристи пуснала същите изображения през Google Lens, който веднага идентифицирал растението като бучиниш.

След това приятелката ѝ качила снимките в отделна ChatGPT сесия на телефона си и този път ѝ било казано, че растението е отровно.

„Тя е възрастен човек и знаеше да ме пита повече от това, което ChatGPT каза, слава Богу“, каза Кристи.

 „Защото, ако не беше? Те буквално щяха да са мъртви. Няма противоотрова за това“.

В силно формулиран надпис, придружаващ публикацията ѝ, Кристи написа:

„Chat GPT ПОЧТИ уби най-добрата ми приятелка, като ѝ каза, че БУЧИНИШ е МОРКОВ.

Не само че каза, че е ПОЗИТИВНО, но и повтори отново и отново, ПОТВЪРЖДАВАЙКИ с АБСОЛЮТНА сигурност, че всъщност НЕ е бучиниш, а че ВСЪЩНОСТ е див морков“.

Тя завърши с рязко предупреждение към публиката си:

„Това е предупреждение към вас, че ChatGPT и други големи езикови модели, както и всеки друг изкуствен интелект, не са ви приятели, не бива да им се вярва, не са полезни, ужасни са и биха могли да причинят сериозна вреда.“

Смъртоносен двойник

Отровният бучиниш (Conium maculatum)  е използван в древна Атина като избран от държавата метод за екзекуция, най-известният от който е бил използван за убийството на Сократ през 399 г. пр.н.е.

Съвременната медицина разбира ефектите му в много по-големи подробности, но резултатът може да бъде същият.

Според клиниката в Кливланд, всяка част от растението е отровна – семена, корени, стъбла, листа и плодове, а поглъщането може да бъде фатално дори в малки количества.

Опасността се крие отчасти в това колко лесно бучинишът може да бъде объркан с безобидни членове на семейство моркови. 

Той много прилича на дивия морков с нежни, подобни на магданоз листа.

Ключовите предупредителни знаци – кухо стъбло, покрито с лилави петна, и бърз растеж, който може да достигне няколко метра, често се пропускат от неспециалистите.

Клинично, отравянето с бучиниш действа бързо. 

Симптомите могат да започнат в рамките на 15 минути след поглъщане и могат да включват изпотяване, повръщане, разширени зеници, прекомерно слюноотделяне, сухота в устата, учестен пулс, високо кръвно налягане, объркване, мускулни потрепвания, тремор и гърчове.

В тежки случаи пациентите могат да развият мускулна парализа, опасно ниско кръвно налягане, бъбречна недостатъчност и потискане на централната нервна система.

Токсичните алкалоиди на растението нарушават невромускулните връзки, които контролират движението на мускулите; когато дихателните мускули откажат, дишането спира. Няма специфичен антидот.

Диагнозата се основава до голяма степен на симптомите и историята на експозиция, понякога подпомогната от проба от самото растение.

Защо подобни грешки са важни

Тази комбинация, визуална прилика с безобидни растения, бърза поява на симптоми и липса на противоотрова, е именно причината ботаниците и клиницистите да предупреждават срещу случайната идентификация.

Разказът на Кристи показва колко лесно един уверен, но неправилен отговор на изкуствения интелект може да обърка това предупреждение, превръщайки рутинен въпрос в почти пропусната ситуация с отрова, използвана някога за убиване на един от най-известните философи в историята.