Срещу компанията OpenAI е подаден съдебен иск в Калифорния, в който се твърди, че съвети, дадени от ChatGPT, са допринесли за смъртта на 19-годишен студент от университет в щата Калифорния, град Мърсед.

Искът е внесен от семейството на студента Сам Нелсън, който според жалбата е починал след предозиране през май 2025 година. В документа се твърди, че студентът е използвал ChatGPT първоначално за учебни цели, но по-късно е започнал да търси и съвети, свързани с употреба на опиати, обезболяващи и психотропни лекарства.

Според изложеното в иска, чатботът първоначално е давал предупреждения, но с времето е започнал да предоставя по-конкретни насоки за комбинации и дозировки. В един от описаните случаи системата е препоръчала комбинация от кротам и ксанакс. Чатботът е споменал за възможни рискове, но според обвинението не е предупредил ясно, че сместа може да бъде смъртоносна.

В жалбата се твърди още, че ChatGPT е предлагал и допълнителни вещества като бенадрил и е насърчавал потребителя да остане в тиха среда, без да го насочва към медицинска помощ.

Семейството на Нелсън твърди, че е налице продуктова небрежност и че системата не е опитала да спре разговора за опасните лекарства. Адвокатите настояват и за спиране на услуга, свързана със здравни функции на ChatGPT.

От OpenAI отговарят, че описаните събития са свързани със стара версия на модела, която вече не се използва. Компанията подчертава, че ChatGPT не е заместител на медицинска или психиатрична помощ и че системите за безопасност са били засилени.

В становището си компанията посочва, че продължава да подобрява реакциите на модела в чувствителни ситуации и да работи с медицински специалисти за ограничаване на рисковете при подобни употреби.