Още преди развитието на AI социалните мрежи създават условия за масова дезинформация

Ново изследване, публикувано в Science, предупреждава за нарастваща заплаха от изкуствен интелект. Според учените технологията може да се използва за масова дезинформация и манипулиране на общественото мнение.

Фокусът е върху т.нар. AI "рояци". Това са големи групи от автономни системи, които могат да имитират реални хора в интернет и социалните мрежи. Те използват езикови модели и координирани действия, за да създават и разпространяват съдържание.

Изследването анализира как тези технологии могат да влияят на цели общества. Според авторите манипулациите в социалните мрежи вече се разширяват. От 28 държави през 2017 година те достигат до 70 държави днес, включително Филипините и Съединените щати.

Примери за подобни кампании има и при избори. Отбелязват се случаи на дезинформация, свързани с избори в Бразилия и Ирландия. Според учените тези атаки стават все по-сложни.

"Комбинирайки възможностите на езиковите модели с многoагентни системи, тези решения могат да се координират автономно, да проникват в общности и ефективно да създават изкуствен консенсус", се казва в изследването.

Регулирането на подобни практики е трудно. Възникват въпроси дали подобни мрежи от ботове попадат в обхвата на свободата на словото. Част от тях дори действат открито като търговски компании и привличат инвестиции.

Проблемът не е изцяло нов. Още преди развитието на AI социалните мрежи създават условия за масова дезинформация. Един от най-тежките примери е насилието срещу рохингите в Мианмар, свързано с кампании във Facebook.

Според изследователите заплахата е реална и нарастваща. В същото време липсва достатъчна политическа воля за ефективни мерки срещу подобни практики.