Компанията създател на ChatGPT OpenAI съобщи, че нейните агенти – ботове с изкуствен интелект, които могат да изпълняват задачи самостоятелно след първоначални инструкции от човек, са били тествани в контролирана среда, но са открили уязвимости и са успели да се измъкнат от нея.

Те са атакували Hugging Face – една от най-големите платформи в света за споделяне на AI модели, като са получили достъп до някои вътрешни системи на компанията, пише Би Би Си.

От OpenAI определиха случая като „безпрецедентен“ и заявиха, че работят заедно с Hugging Face, за да разследват случилото се и да засилят защитните механизми.

Джина Неф, ръководител на Центъра за технологии и демокрация Minderoo към Университета в Кеймбридж, заяви, че тестовите среди за сигурност, известни като „пясъчници“, „трябва да бъдат защитени пространства, в които може да се види на какво са способни моделите“.

„В този случай изглежда, че OpenAI не е създал достатъчно сигурен пясъчник“, допълни тя.

Вместо просто да изпълняват зададените им задачи, AI агентите са създали собствена кибератака срещу самата тестова среда, открили са уязвимост и са успели да я напуснат.

След като излезли извън защитената система, изкуственият интелект идентифицирал Hugging Face като вероятен източник на информацията, която търсел в рамките на теста, и направил опит да получи достъп.

В първоначалното си съобщение за инцидента от 16 юли Hugging Face заяви, че все още проверява дали са били засегнати данни на клиенти или партньори и че ще уведоми засегнатите страни при необходимост.

Компанията съобщи, че вече е отстранила уязвимостите, свързани със случая, и е възстановила засегнатите системи.

„Автономните инструменти за атаки, управлявани от изкуствен интелект, вече не са само теория“, заявиха от Hugging Face.

„Защитата на онлайн платформа вече означава данните и AI моделите да бъдат разглеждани като основна повърхност за атаки и използването на изкуствен интелект за защита, за да можем да се справим с темпото на заплахите“, добавиха оттам.

Компанията добави, че ще продължи да инвестира в сигурността и да споделя наученото от случая.

Инцидентът предизвика нови въпроси относно възможностите на напредналите AI системи и дали съществуващите защитни механизми са достатъчни с развитието на технологията.

Случаят идва само седмица след като китайският AI стартъп Moonshot представи Kimi K3 – нов мащабен модел с изкуствен интелект, за който компанията твърди, че може да се конкурира с водещите американски разработчици.