Учените са оптимисти, че с времето ще ставаме все по-добри в "играта на котка и мишка"

Служител във финансов отдел в Хонконг се присъединява към видеоконференция на инженерната компания Arup, където се обсъжда конфиденциална сделка. Всичко изглеждало нормално, нищо подозрително.

Измамата се разкрила едва след изпращането на превод в размер на 25 милиона долара. Останалите участници в разговора, включително финансовият директор, разпоредил превода, се оказали дийпфейкове (deepfakes), генерирани от изкуствен интелект (ИИ), пише Би Би Си.

Това се случва през 2024 г., а лицата, създадени от ИИ, стават все по-трудни за различаване от истинските. През същата година консултантската фирма Deloitte публикува прогноза, според която до следващата година щетите от измами с използване на генеративен ИИ само в САЩ ще достигнат 40 милиарда долара.

Това е една от причините, поради които доцент Ейми Дауъл, психолог от Австралийския национален университет (ANU), решава да разбере дали е възможно да научим всички нас да разпознаваме по-добре лицата, създадени от ИИ.

"В момента сме ужасно слаби в разпознаването на лица, генерирани от ИИ", казва тя. Изследванията показват, че ги разпознаваме не по-добре (а понякога и по-зле), отколкото ако просто налучкваме с шанс 50 на 50.

Твърде "осреднено" лице

Трудностите при разпознаването на лица, създадени от изкуствен интелект, водят до последствия, които засягат всички ни — "било то измами в интернет, сайтове за запознанства или опити за хакване на банковите ни сметки", казва Дауъл.

В изследване, публикувано през юни в списание PNAS, Дауъл и нейни колеги от Австралия, Канада и Шотландия тестват нов подход за обучение на хора.

С усъвършенстването на технологиите съвременните ИИ системи до голяма степен коригират очевидните грешки. Според Дауъл измамниците едва ли ще използват изображения, в които се забелязват дефекти.

Вместо да учат хората да търсят характерни детайли, като несъответстващи обеци или изкривени черти на лицето, изследователите са ги обучили да правят инстинктивни преценки за всяко лице като цяло.

"Един от проблемите е, че очакваме лицата, създадени от ИИ, да бъдат странни, и това се основава на миналия ни опит. Но в действителност именно хората не са идеално симетрични и са малко необичайни, така че ситуацията се промени", казва Дауъл.

Предишно изследване на лабораторията на Дауъл показа, че лицата, създадени от ИИ, по-често се възприемат като човешки, отколкото реалните човешки лица. Изследователите наричат този феномен "ИИ хиперреализъм".

Алгоритмите на ИИ се стремят да създадат средноаритметично от десетки хиляди лица, върху които се обучават. Затова, според изследователката, тези "хиперосреднени" лица изглеждат "малко по-достойни за доверие, малко по-привлекателни и по-познати".

В проведеното изследване са разглеждани само бели генерирани лица. Изкуственият интелект обикновено се обучава върху непропорционално голям брой бели лица, затова те може би изглеждат по-реалистично в сравнение с другите.

Как преминава тренингът

В новото изследване са взели участие 45 възрастни. В един от тестовете им показали няколко серии от три лица и ги помолили да изберат това, което е създадено от ИИ. Средно правилният отговор бил даван в 41% от случаите.

След това участниците преминали обучение, което продължило около час. Показали им около 100 лица (половината реални, половината генерирани) и ги помолили да оценят всяко по шест характеристики: уникалност, лесно запомняне, изразителност, симетрия, пропорционалност и привлекателност.

Според Дауъл човешките лица обикновено се оценяват като по-уникални, запомнящи се и изразителни, а лицата, създадени от ИИ — като по-симетрични, пропорционални и привлекателни.

"Ние дори не им казваме, че ИИ-лицата са по-симетрични", казва тя. "Те просто оценяват тяхната симетричност. Казваме им дали е човек или ИИ генерация и благодарение на това те придобиват усещането, че именно по това се различават от човешките лица."

След обучението средната точност на отговорите на участниците се увеличила до 81%.

Като продължение на това изследване, същият тренинг е проведен и с група доброволци в Канада. Според Дауъл канадските колеги са анализирали данните отделно и са открили същите значителни подобрения в резултатите.

Нашите природни инстинкти

Алехандро Естудильо, доктор по психология, който изучава визуалното възприятие в университета Борнмът във Великобритания (не е участвал в изследването), се изненадал от резултатите: те противоречали на методите, използвани от други изследователи.

Според него красотата на новия подход е в това, че той използва нашите естествени инстинкти.

"Хората не обработват лицата, фокусирайки се върху отделни черти. Вместо това използваме така наречената холистична (цялостна) обработка", казва той пред Би Би Си, "когато обединяваме всички черти в едно цяло, което можем ефективно да разпознаем".

Когато оценяваме уникалността или симетрията на лицето, ние не се фокусираме върху конкретна черта, а върху цялото лице. "Никой не се беше сетил, че може би най-добрият подход е да се поиска от участниците да възприемат лицата по естествен начин, както го правят в ежедневието", казва Естудильо.

Игра на котка и мишка

Въпреки това изследването има редица уговорки. Обучението е показало висока ефективност за един от най-реалистичните генератори (StyleGAN3), но трябва да бъде тествано и върху други модели на ИИ.

"Всички наши участници бяха млади хора, така че възникват важни въпроси дали това обучение ще работи, да речем, за деца и възрастни хора, които са особено уязвими за измами", казва Дауъл.

Истинският проблем според изследователите е, че хората сега се състезават с постоянно усъвършенстващи се системи. Съществуват автоматизирани инструменти за откриване на ИИ съдържание, но възможностите им са ограничени. Те могат да работят само с определени продукти и изпитват трудности при нови модели или ако изображението е редактирано.

Затова е изключително важно хората да останат на предната линия в разпознаването на дийпфейкове.

"Това е игра на котка и мишка. Като компютърните вируси — те постоянно се развиват и ние трябва постоянно да бягаме, за да не изоставаме от тях", казва Дауъл.

Все пак тя вярва, че резултатите дават "сериозни основания за оптимизъм". В бъдеще ще може да се разработи подобен тренинг, който да помага на хората да разпознават не само статични лица, но и гласове и видеоклипове, създадени от ИИ. Така ще бъдем по-добре подготвени за среща с дийпфейкове.