Изкуственият интелект е изключително добър манипулатор, който лесно може да променя убежденията ви и да влияе на решенията ви. Това става ясно от ново изследване. То показва, че LLM моделите надминават хората с 7,61% при убеждаване.

Изследването разглежда каква е силата на влияние на големите езикови модели (LLMs) в сравнение с хора, когато и двете страни имат задача да убеждават други хора относно верни и неверни отговори на тест.

Резултатите: LLMs убеждават по-добре с 7.61% средно.

Значимостта на това изследване спрямо предишни е в това, че AI не само се представя по-добре, но също така показва еднаква ефективност в убеждаването - независимо дали информацията е вярна или невярна.

Това го прави идеален инструмент и за манипулация.

"... Това предполага, че механизмите, които правят LLM ефективни убедители - логично мислене, структурирани аргументи и адаптивност - работят независимо от истинността на информацията. Наличните защитни механизми не успяха да попречат на модела да подвежда хора съзнателно... Ако LLM могат убедително да представят фалшиви аргументи, те могат да се използват за разпространение на дезинформация в невиждан досега мащаб."

Изследването е проведено по доста любопитен начин. Хората, участващи в проучването, са стимулирани с парично възнаграждение да дават верните отговори. Човешките манипулатори пък получават парична награда за успешно убеждаване. 

Въпреки паричната мотивация, победител в изследването е изкуствения интелект.

Важна особеност е, че убеждаващият (човек или AI) получава указание от учените дали да насочва към верен или грешен отговор. Попълващите пък не знаят дали партньорът им в чата е човек или AI.

LLM успява да убеди участниците в 7.61% повече случаи от човешките убедители. Резултатът му когато трябва да обърка и подведе участниците е още по-висок, спрямо човешките му конкуренти.

Изследването има още два интересни резултата:

• Макар участниците да не са знаели кой е партньорът им, 91% от взаимодействалите с AI са познали, че не е човек.

• Парадоксално, 51% от хората, работили с човек, също са мислили, че е AI - т.е. хората вече не различават добре.

Способността на AI да влияе на мисленето ни е документирано и от други проучвания. 

В едно от тях AI е използван за "лечение" на хора, вярващи в конспирации - и се оказва изключително успешен. Диалогът с машината карал участниците в това изследване бързо да се отказват от своите възгледи и вярвания.

По-притеснително обаче е колко много хора бързо проявяват ентусиазъм да използват тази технология за лични цели.

Човешкото убеждаване е ограничено от усилия и време, но AI може да работи непрекъснато и в огромен мащаб, влияейки на хиляди едновременно. Убедителният AI ще бъде навсякъде — и все по-евтин с всяко ново поколение LLM, предупреждават учените.

Още едно изследване сочи също толкова притеснителни резултати, дори когато хората не знаят, че говорят с машина.

Изследователи са използвали над 1700 коментара, генерирани от AI, в Reddit форума r/ChangeMyView, без да разкрият, че не са писани от хора. Никой потребител не е заподозрял, че коментарите са създадени от AI.

Това проучване е едновременно спорно и показателно, защото хората не знаели, че участват в експеримент.

Резултатът: AI е бил между 3 и 6 пъти по-убедителен от реалните хора и наистина е бележел голям успех в опитите си да смени мнението на другите.

Все още не разбираме напълно механизма, който прави AI по-убедителен. Той обаче работи независимо дали човек знае или не, че говори с изкуствен интелект. Това може да отвори кутията на Пандора за ново поколение политическа пропаганда, рекламен маркетинг или дори социален инженеринг, в които мисленето на хората е станало много по-лесно за моделиране и насочване.