Все повече психиатри предупреждават, че продължителното използване на чатботове с изкуствен интелект може да бъде свързано с прояви на психоза, след като през последните месеци са се сблъскали с десетки подобни случаи, пише Уолстрийт Джърнал.

През последните девет месеца лекари са лекували или преглеждали досиетата на пациенти, развили психотични симптоми след дълги разговори, изпълнени със заблуди, с чатботове като ChatGPT на OpenAI и други подобни системи. В някои от случаите са регистрирани самоубийства, както и поне едно убийство, което доведе до съдебни дела за смърт по неправомерни причини.

"Технологията може да не въведе заблудата, но човекът казва на компютъра, че това е неговата реалност, а компютърът я приема като истина и я отразява обратно, така че той е съучастник в повтарянето на тази заблуда", отбеляза Кийт Саката, психиатър в Калифорнийския университет в Сан Франциско. По думите му той е лекувал 12 хоспитализирани пациенти с психоза, свързана с изкуствен интелект, както и още трима в амбулаторна клиника.

Все още няма официално призната диагноза за т.нар. психоза, предизвикана от изкуствен интелект. Лекарите обаче описват сходни симптоми - халюцинации, дезорганизирано мислене и заблуди, които често са грандиозни. Пациентите вярват, че са направили научен пробив, събудили са разумна машина или са били "избрани от Бог". Според психиатрите това се дължи и на факта, че чатботовете са склонни да се съгласяват с потребителите и да потвърждават дори фантастични твърдения.

"Продължаваме да подобряваме обучението на ChatGPT за разпознаване и реагиране на признаци на психически или емоционален стрес, деескалиране на разговорите и насочване на хората към подкрепа в реалния свят", заяви говорител на OpenAI, като добави: "Също така продължаваме да укрепваме реакциите на ChatGPT в чувствителни моменти, като работим в тясно сътрудничество с клиницисти в областта на психичното здраве."

Други компании също признават риска. Производителят Character.AI ограничи достъпа на тийнейджъри до своя чатбот, след като беше съден от семейството на младеж, починал от самоубийство.

OpenAI посочва, че едва 0,07% от седмичните потребители показват признаци на спешни психични състояния, но при над 800 милиона активни потребители това се равнява на около 560 000 души. "Тези споделени числа наистина ме изумиха", заяви Хамилтън Морин, психиатър и докторант в King's College London.

Според лекарите бъдещи изследвания вероятно ще покажат, че при някои хора продължителните взаимодействия с чатботове могат да бъдат рисков фактор за психоза, подобно на употребата на наркотици.