Изследване установява, че над половината от запазените спомени на чатбота съдържат психологически изводи за хората, а част от тях се основават на предположения

ChatGPT изгражда подробни дигитални профили на потребителите си въз основа на информацията, която те споделят в разговорите си с изкуствения интелект. Това предупреждава международен екип от изследователи, които са проучили как функцията за памет на чатбота съхранява и обобщава лични данни.

Проучването е представено на конференцията ACM Web Conference 2026. Учените са анализирали разговори на 80 реални потребители на ChatGPT, които са получили архивите си чрез европейските механизми за защита на личните данни. В тях изследователите са открили 2050 записа в паметта, свързани с разговорите на 65 от потребителите.

Според резултатите 96% от запазените спомени са създадени от самия чатбот, без потребителите изрично да са избирали да съхранят конкретната информация. Около 28% от записите съдържат лични данни според определенията на Общия регламент за защита на данните (GDPR) на ЕС, а 52% включват психологически изводи за потребителите.

Изследователите посочват, че понякога тези изводи се основават на предположения, а не на изрично заявена информация. Като пример те дават потребител, който поискал от ChatGPT да му препоръча групи, подобни на Nirvana. Чатботът запазил заключението, че човекът харесва Nirvana, въпреки че той не го е казал директно. В записа предположението било отбелязано като слабо подкрепено.

"Преди платформите имаха една основна цел - да ви показват реклами и да посредничат във взаимодействието между вас и рекламодателя. Сега те разговарят директно с вас и може да искат да знаят повече за вас, за да водят по-ефективен разговор", коментира водещият автор на изследването Абхисек Даш пред Gizmodo.

Авторите предупреждават, че тази форма на персонализация поражда нови рискове за поверителността. За разлика от традиционните алгоритми за препоръки, които анализират поведението на потребителите в различни платформи, чатботовете получават информация чрез разговори, в които хората могат да споделят лични преживявания, страхове и убеждения.

Според Даш проблемът е, че потребителите все по-често възприемат изкуствения интелект не просто като инструмент, а като съветник, колега или приятел. Така те могат да разкриват подробности, които иначе биха запазили за себе си.

"Вече няма граница - системата действа като ваш съветник, приятел, лекар и адвокат и затова разполага с информация за всичко", предупреждава Даш. По думите му, ако чатботът познава добре убежденията на даден човек и се стреми да ги потвърждава, за да го задържи като потребител, това може да засили политическата поляризация и съществуващите предразсъдъци.

Изследването има ограничения. Системата за памет на ChatGPT е била актуализирана след периода, обхванат от анализа, включително с нов механизъм за обобщаване на информацията. Освен това потребителите могат да изключат функциите за запаметяване.

Паметта има и практическа полза - тя позволява на чатбота да запазва контекст за работата и предпочитанията на потребителя, вместо той да ги обяснява при всеки нов разговор. Според изследователите обаче удобството трябва да бъде съпоставено с рисковете от съхраняването на чувствителна информация и създаването на психологически профили без изричното знание на хората.