Главният прокурор на Калифорния обяви разследване на „разпространението на сексуално експлицитни материали"

Чатботът с изкуствен интелект Grok на Илон Мъск вече няма да редактира „изображения на реални хора в разкриващи дрехи“ в платформата X, потвърди компанията в сряда вечерта, 14 януари, след глобално възмущение, породено от това, че Grok е изпълнявал потребителски заявки за дигитално събличане на изображения на възрастни и в някои случаи на деца, предаде CNN.

„Въведохме технологични мерки, за да предотвратим възможността акаунтът на Grok да позволява редактиране на изображения на реални хора в разкриващи дрехи като бикини. Това ограничение важи за всички потребители, включително платените абонати“, написа X чрез акаунта на своя екип по безопасност.

През последната седмица xAi, която притежава както Grok, така и X, ограничи генерирането на изображения за Grok в X само до платени абонати на X Premium. Изследователи и екипът на CNN бяха забелязали, че през последните дни акаунтът на Grok в X е променил начина, по който реагира като цяло на заявки за генериране на изображения от потребители, дори и за тези, абонирани за X Premium. Публикацията на X в сряда вечерта потвърди тези промени.

Въпреки това, изследователи от AI Forensics, европейска нестопанска организация, която разследва алгоритми, заявиха, че са наблюдавали „несъответствия в третирането на генерирането на порнографско съдържание“ между публичните взаимодействия с Grok в X и частните чатове в Grok.com.

X повтори в сряда, че „предприемат действия срещу незаконно съдържание в X, включително материали за сексуално насилие над деца (CSAM), като го премахват, трайно спират акаунти и работят с местните правителства и правоприлагащите органи, ако е необходимо. Всеки, който използва или подбужда Grok да създава незаконно съдържание, ще понесе същите последици, както ако качи незаконно съдържание.“

В сряда Мъск заяви в публикация в X, че „не е запознат с генерирани от Grok голи изображения на непълнолетни. Буквално нула.“ Grok „ще откаже да произвежда каквото и да е незаконно, тъй като принципът на работа на Grok е да спазва законите на която и да е дадена държава или щат“, добави той.

Въпреки това, изследователите заявиха, че докато напълно голите изображения са били рядкост, най-големият проблем е бил, че Grok е изпълнявал потребителски заявки за промяна на изображения на непълнолетни и поставянето им в разкриващи дрехи, включително бикини и бельо, както и в сексуално провокативни пози. Създателите на тези видове интимни изображения без съгласие все още могат да бъдат обект на наказателно преследване за материали за сексуално насилие над деца и потенциално подлежат на глоби и затвор съгласно Закона за сваляне на съдържание (Take it Down Act), подписан миналата година от президента Доналд Тръмп.

В сряда главният прокурор на Калифорния Роб Бонта обяви разследване на „разпространението на сексуално експлицитни материали без съгласие, произведени с помощта на Grok“.

Grok все още е забранен в Индонезия и Малайзия в резултат на противоречията около генерирането на изображения. Британският регулатор Ofcom обяви в понеделник, 12 януари, че е започнал официално разследване на X, въпреки че кабинетът на премиера Киър Стармър заяви в сряда, че приветства съобщенията, че X се справя с проблема, пише CNN.