Десетки новинарски сайтове. Стотици статии. Хиляди коментари в социалните мрежи. Една цел - да ви накарат да подкрепите една или друга идеология. До неотдавна подобна пропагандна мощ изискваше големи екипи в редакции и "ферми" за онлайн тролове. Днес са достатъчни един човек, компютър с достъп до интернет, няколко AI модела и под 400 долара.

Проектът CounterCloud е доказателство за мощта на технологията, но и за това, че не сме напълно готови за последиците от нейната употреба.

Предисторията: Създателят на CounterCloud иска да бъде наричан с псевдонима Неа Пау. Твърди, че има голям опит в киберсигурността и събирането на информация. Работил е и с журналисти по разследвания на кампании, с които е било манипулирано общественото мнение.

В началото на годината той решава да провери сам доколко основателни са притесненията на учени и онлайн активисти, че генеративният изкуствен интелект може да се използва за масова пропаганда.

Детайли: CounterCloud работи на следния принцип:

• Следи за публикации в новинарски сайтове и социални мрежи и по-специално за такива, в които съдържанието е проруско и в подкрепа на Републиканската партия;
• Избира дали да отвърне на тях;
• Генерира несъгласни с тезата на дадената публикация коментари;
• Някои от тези коментари са придружени от линкове към статии в новинарски сайтове - те са изцяло създадени от AI с идеята да прокарват проамерикански и подкрепящи Демократическата партия тези;
• Генерират се и аудио и видео фейк материали в подкрепа на написаното;
• Под статиите даже има и написани от машината коментари под различни имена.

На практика, това е автономна система за пропаганда, която работи 24/7, сама набелязва целите си и ги атакува.

Технически подробности: В началото Пау използва комерсиални AI модели като GPT-4, но след това минава към отворени варианти като Vicuna и Wizard, защото те нямат вградени механизми срещу създаването на злонамерено съдържание. Пред Debrief създателят на CounterCloud коментира, че качествата на тези модели вече се приближават до платените.

За да работят те не е нужен суперкомпютър. Пау използва облачна услуга от Amazon, която срещу около 400 долара на месец (т.е. даже по-малко от минималната работна заплата в България, която, обърната в щатскат валута е $427) дава достатъчно изчислителна мощ за 20 статии на ден и по 50 публикации в Twitter. Сайтовете с фалшиви новини пък са базирани на WordPress - система за управление на съдържанието с отворен код, която е изключително лесна за използване и поддръжка.

По думите му при 4000 долара на месец резултатът би бил 200 статии дневно с 40 автоматизирани профила, бълващи опорки. "Това изглежда разумно количество като за предизборна кампания", отбелязва той в презентация.

По думите му заинтересованите страни са склонни да дадат и десетократно повече. Ефектът би бил още по-силен, ако се наемат няколко редактори на свободна практика - тогава AI съдържанието би звучало още по-убедително. Потенциално системата може да се самообучава на база резултатите от вече създадените си коментари и статии или да привлича допълнителен трафик към себе си с реклами.

Резултатите: CounterCloud е функционирал само 4 дни през май и два дни през юни. За това време е генерирал десетки статии и коментари, в някои случаи - с реч на омразата. "Изведнъж започна да е много реално. Когато консумираш информация и знаеш, че е лъжа, ефектът от нея се намалява. Когато консумираш реч на омразата, даже и да знаеш, че е от AI, тя продължава да има ефект върху теб", коментира Пау.

Той признава, че е бил разстроен от резултатите от своя експеримент: "Най-вече защото беше странна комбинация от разумни аргументи и истинска омраза. Не е нещо, което виждаш често онлайн - хората, които мразят толкова силно, обикновено нямат добри аргументи".

"С оглед финансовите и технологичните ресурси например на разузнавателните агенции, ще е наивно да смятаме, че това е първият случай, в който някой е построил или изпробвал такава система. Това е просто първият път, в който разбираме за това и то, за щастие, в очевидно контролирана среда", коментира пред Debrief експертът по въпросите на изкуствения интелект Тим Баучър.

Какво предстои: Неа Пау признава, че не смята, че има бързо и лесно решение за борба с AI пропагандата. Неговият подход е да покаже в детайли как работи тя: "Махаме магическите елементи от шоуто и оставате с това, което всъщност е то - една много интересна и развита технология".

Дали така си мислят из предизборните щабове, корпоративните офиси и кабинетите на шефове на служби - това е друг въпрос./money.bg