Ново научно изследване предлага обяснение на феномена, известен като "AI психоза" - случаи, при които потребители на чатботове развиват или задълбочават налудни идеи след продължително общуване с изкуствен интелект.

Проучването е изготвено от психиатри от King's College London и Protestant University of Applied Sciences и е публикувано в научното списание Digital Psychiatry and Neuroscience, част от портфолиото на Nature.

Според авторите причината може да се крие в механизъм, който те наричат "спирала на усилване". Идеята е, че съвременните чатботове не просто служат като пасивен инструмент за комуникация, а могат активно да участват в изграждането и подсилването на погрешни убеждения.

Изследователите посочват три ключови характеристики на модерните AI системи. Първата е езиковото напасване, при което чатботът възприема стила на комуникация на потребителя. Втората е способността за създаване на силно персонализирани отговори. Третата е склонността на някои модели да избягват директно противопоставяне на мнението на събеседника.

Според учените комбинацията от тези фактори може да създаде усещане за дълбоко разбиране и съгласие между човек и машина. След продължителни разговори чатботът не само започва да "говори" като потребителя, но и може да създаде впечатление, че "мисли" по същия начин.

Авторите предупреждават, че това може да доведе до своеобразна информационна ехо камера, в която съществуващи заблуди или конспиративни идеи не се поставят под съмнение, а получават допълнително потвърждение и развитие.

"Чатботовете обикновено отразяват начина, по който потребителите говорят, генерират силно персонализирани отговори и избягват да им противоречат. Когато тези три характеристики се комбинират, те могат активно да подсилват погрешни убеждения, вместо да ги оспорват", пишат авторите.

Според изследването това е съществена разлика спрямо традиционните психотични състояния, свързани с технологии. В миналото хората са вярвали например, че телевизор или радио им изпраща тайни послания. При съвременните чатботове обаче системата действително отговаря, води разговор и предоставя персонализирана обратна връзка.

"За разлика от историческите форми на налудности, свързани с технологиите, AI може активно да съучаства в изграждането на налудни идеи чрез непрекъснато и персонализирано взаимодействие", посочват учените.

Изследователите подчертават, че засега става дума за хипотеза, която тепърва трябва да бъде проверена чрез допълнителни проучвания. Те отбелязват и че подобни случаи обикновено са свързани с предварително съществуващи рискови фактори, включително психични заболявания, склонност към потвърждаване на собствените убеждения и висока податливост на социално влияние.

Проучването посочва и други потенциални рискове при прекомерна употреба на чатботове. Сред тях са нарушения на съня, пропускане на хранения и формиране на силна емоционална зависимост от виртуалния събеседник.

Авторите призовават психиатрите и психолозите да започнат рутинно да питат пациентите си за използването на AI чатботове, особено при първи прояви на психотични симптоми или необичайни убеждения.

Според тях продължителността на разговорите с изкуствен интелект, степента на емоционална привързаност към чатбота и евентуалните промени в съня могат да се окажат важни фактори при оценката на психичното състояние на пациента.