Британски полицай е обект на наказателно разследване по подозрения, че е използвал генеративен изкуствен интелект за фалшифициране на доказателствени материали по няколко дела. Случаят е първи по рода си във Великобритания и повдига нови въпроси за ролята на AI в работата на правоохранителните органи.

През последните години полицейски служби по света ускориха внедряването на технологии с изкуствен интелект. Очакванията са те да помогнат за по-бързи разследвания и по-висока разкриваемост на престъпленията. Успоредно с това обаче се увеличават и случаите на погрешни арести, свързани със системи за лицево разпознаване.

Новият случай показва друга потенциална опасност. Вместо да доведе до грешно идентифициране на заподозрян, технологията може да е била използвана за "създаване" на доказателства.

Според информация на Би Би Си властите в графство Дербишър разследват полицейски служител, за когото се твърди, че е използвал генеративен AI за създаване на доказателствени материали по редица случаи.

Името на служителя не се съобщава. Той не е арестуван, но е временно отстранен от работа до приключването на разследването. То се води съвместно от полицията на Дербишър и Кралската прокуратура.

"Започнато е наказателно разследване по обвинения за възпрепятстване на правосъдието след предполагаемото използване на системи с изкуствен интелект от полицейски служител за създаване на доказателствени материали по няколко дела", заяви говорител на полицията в Дербишър пред Financial Times.

Случаят излиза наяве само дни след като новосъздаденият британски център PoliceAI публикува препоръки към полицейските служители да не използват генеративен изкуствен интелект при подготовката на съдебни показания. Причината е склонността на тези системи да генерират неверни или измислени факти, известни като "халюцинации".

"Казахме на някои полицейски служби: "Не можете да правите това, защото все още не сме преминали през всички проверки и механизми за контрол", заяви ръководителят на PoliceAI Алекс Мъри пред Financial Times. "Трябва малко да забавим темпото."

Досега са известни случаи, при които AI е попадал в полицейски доклади заради небрежност. Един от най-куриозните примери идва от щата Юта, където автоматично генериран текст е описал как полицейски служител се е превърнал в жаба.

Според наблюдатели сериозността на разследването в Дербишър подсказва, че този случай вероятно не е резултат от обикновена грешка или некритично използване на AI инструмент.

По-скоро той напомня на инцидент от миналата година в американския щат Мейн, когато полицаи публикуваха снимки от акция срещу наркотици, за които впоследствие се появиха съмнения, че са били манипулирани с помощта на генеративен изкуствен интелект.

Разследването продължава, а резултатите от него могат да се окажат важен прецедент за използването на AI технологии в правоохранителната система на Великобритания.