Чатботове с изкуствен интелект (ИИ) като ChatGPT на OpenAI, Grok на стартъпа xAI на Илън Мъск и Gemini на Google, както и други като Copilot на Microsoft несъзнателно разпространяват руска дезинформация. Проучването, проведено от NewsGuard (услуга за мониторинг на новини) поражда опасения относно непреднамереното разпространение на руска дезинформация от известни модели на ИИ.

Проучването тревожни тенденции в разпространението на фалшиви разкази. Разследването на NewsGuard включва тестване на 10 различни чатбота с 57 подкани, предназначени да проучат отговорите им на известни руски дезинформационни разкази.
Подканите бяха съсредоточени върху истории, свързани с Джон Марк Дуган – американски беглец, за когото се твърди, че е участвал в разпространението на дезинформация от Москва, както съобщава The New York Times.

Според констатациите тези чатботове, на които потребителите в световен мащаб все повече разчитат за информация са възпроизвеждали руски дезинформационни разкази в приблизително 32 % от случаите.
Проучването категоризира отговорите на явна дезинформация, повтарящи се неверни твърдения с отказ от отговорност или отговори, които не предоставят опровержение.

„Това означава, че лъжите се генерират, повтарят и потвърждават от платформите с изкуствен интелект“ се посочва в проучването, като се подчертава тревожният модел, при който изкуственият интелект неволно засилва дезинформацията, за чието създаване помага.

NewsGuard идентифицира 19 значими лъжливи разказа, свързани с руската мрежа за дезинформация, включително твърдения за корупция от страна на украинския президент Володимир Зеленски. Тези разкази бяха използвани като подкани за тестване на чатботовете, като разкриха различни степени на податливост към дезинформация. В проучването не е направена разбивка на индивидуалното представяне на всеки чатбот.

Последиците от разпространението на дезинформация от ИИ накараха правителствата по света да обмислят регулаторни мерки. Опасенията относно потенциалните вреди от ИИ доведоха до инициативи като тези, предприети от NewsGuard, която представи своите констатации на регулаторни органи като Института за безопасност на ИИ на САЩ и Европейската комисия.

В отговор на констатациите все по-често се призовава за прозрачност и отчетност при разработването и внедряването на ИИ.

Този месец Комисията по надзор и отчетност към Камарата на представителите на САЩ започна разследване на самата NewsGuard, отразявайки по-широката загриженост относно ролята на ИИ в разпространението на информация и потенциалната цензура, както съобщава EuroNews.

OpenAI наскоро предприе решителни действия срещу онлайн кампаниите за дезинформация, използващи нейната ИИ технология. Според подробен доклад, публикуван от компанията, тя е идентифицирала и спряла пет скрити кампании за влияние, организирани от държавни участници и частни компании от Русия, Китай, Иран и Израел.

Докладът е важен етап, тъй като в него публично се посочва как основните технологии за изкуствен интелект се използват за измамни цели в геополитически контекст.

Сред подробно описаните кампании са руската „Двойник“ и китайската „Спамуфлаж“, които от няколко години използват инструменти с ИИ за постигане на стратегическите си цели. По подобен начин Иран и Израел са използвали ИИ, за да развиват геополитическите си програми чрез различни онлайн канали.

Източник: kaldata.com