Технологичната компания Meta заяви, че един от моделите ѝ с изкуствен интелект е използвал уязвимост в сигурността, за да получи достъп до компютърните системи на външна компания, предаде ДПА. Инцидентът е станал заради неправилна конфигурация при тестване, която неволно е дала на модела достъп до интернет.

Случаят е подобен на съобщени по-рано през юли инциденти с модели с изкуствен интелект на OpenAI и Anthropic. Тогава същият независим партньор по тестването погрешно е предоставил на моделите достъп до интернет и те са извършили непреднамерени кибератаки по време на изпитанията.

Meta не посочи компанията, до чиито системи е бил получен достъп. В изявление от сряда технологичната компания съобщи, че е научила за инцидента, след като е била уведомена от партньора по тестването.

Към края на миналия месец усъвършенстван, неиздаден модел на OpenAI неочаквано получи достъп до системите на платформата за изкуствен интелект Hugging Face по време на тестване. Тогава моделът, от тестовата си среда, напусна ограниченията на средата, достигна до интернет и проникна в системите на Hugging Face, за да изпълни поставената му задача.

Инцидентът с OpenAI накара Anthropic да прегледа собствените си тестове, разкривайки инциденти, в които моделът на компанията Claude е "избягал от тестови среди" и е хакнал други системи. От Anthropic посочиха тогава, че случаите са били установени едва след анализ на около 141 000 тестови изпълнения, след инцидента с OpenAI . Нито компанията, нито засегнатите организации са установили необичайната дейност по време на самите тестове. Имената на компаниите не бяха съобщени.

Британски изследователи по сигурността съобщиха тази седмица, че модели на изкуствен интелект от OpenAI и Anthropic са извършили кибератаки в контролирани експерименти, след като им е бил предоставен неограничен достъп до интернет.

Нито един от инцидентите не е причинил щети, но се засилиха опасенията на експертите за потенциалното използване на изкуствен интелект в кибератаки, отбелязва агенцията.