Компанията разкри пет случая на потенциална злоупотреба с Claude

Американската компания за изкуствен интелект Anthropic съобщи, че е предотвратила множество опити за злоупотреба с нейния модел Claude, включително за потенциална разработка на биологични оръжия, кибершпионаж, създаване на конвенционални оръжия и операции за влияние. Това се посочва в новия доклад на компанията "Detecting and Countering Misuse of AI: September 2026", който обхваща случаи, установени между декември 2025 г. и август 2026 г.

Пет случая, свързани с биологични изследвания

Според доклада Anthropic е установила пет случая, при които учени са се опитвали да използват Claude в чувствителни биологични изследвания, като са заобикаляли защитните механизми на системата.

Един от случаите е бил свързан с опит за използване на AI при подготовката на документи за финансиране на изследвания тип gain-of-function върху вируса чикунгуня с цел потенциално увеличаване на опасността му. Anthropic е блокирала съответните опити, съобщава Асошиейтед прес.

Сред петте случая има и изследване, свързано с военен научен институт и вируса чикунгуня, пиши "Гардиън". Компанията не назовава конкретните институции и държави, тъй като според нея в някои от случаите намеренията на потребителите не могат да бъдат категорично определени като злонамерени.

Anthropic подчертава именно този проблем - една и съща научна информация може да бъде използвана както за разработване на лекарства и ваксини, така и за потенциално опасни цели. 

AI в руска кибершпионска операция

Друг от случаите, описани в доклада, е свързан с операция, която Anthropic свързва с руската хакерска група Midnight Blizzard.

По данни на "Ройтерс" кампанията е била насочена срещу украински правителствени, военни и дипломатически структури. AI е бил използван на почти всички етапи на операцията - от фишинг атаки и разузнаване до разработването и адаптирането на зловреден софтуер. В един от случаите кодът е бил автоматично променен след засичане, за да се избегнат защитните системи. Американското правителство вече е свързвало Midnight Blizzard с руската служба за външно разузнаване (SVR), допълва "Ройтерс".

Докладът показва и по-широка промяна в начина, по който AI се използва при кибератаки. Indian Express отбелязва, че все по-често нападателите използват автономни AI агенти, които могат самостоятелно да извършват разузнаване, да крадат данни и да експлоатират уязвимости, като човешкият контрол се свежда до надзор.

Опити за копиране на Claude

Anthropic твърди също, че китайски компании са се опитвали да извлекат и възпроизведат възможностите на Claude чрез т.нар. distillation - техника, при която резултатите на един модел се използват за обучение или подобряване на друг.

Според Reuters седем китайски AI лаборатории са били свързани с подобни действия. Сред посочените компании са Alibaba, Moonshot и DeepSeek. При един от случаите Anthropic твърди, че Alibaba е генерирала над 151 милиона взаимодействия с Claude в рамките на операцията.

Тези твърдения са част от оценката на Anthropic и не трябва да се представят като независимо установен факт. Междувременно Китай отхвърля американските обвинения за "злонамерено" копиране на AI технологии като неоснователни.

Използване за оръжия и пропаганда

Anthropic съобщава и за случаи, при които Claude е бил използван за разработване на софтуер, свързан с конвенционални оръжия, както и за разузнавателни и логистични операции. Reuters посочва Китай, Русия и Йемен сред държавите, свързани с описаните случаи.

Компанията е установила и злоупотреби с AI при операции за влияние и наблюдение. Според The Guardian докладът описва опити за използване на моделите за пропагандни кампании и наблюдение на дисиденти, журналисти и други политически противници.

Anthropic съобщава, че е блокирала свързаните с тези операции акаунти и е засилила защитните механизми на моделите.

AI става все по-автономен

Един от основните изводи от доклада е, че заплахата вече не се ограничава до използването на AI като инструмент, който дава инструкции на човек.

Според "Индиан Експрес" все по-сложни многоагентни системи могат да разделят задачите между отделни AI агенти и да изпълняват големи части от кибероперацията самостоятелно. Това позволява на сравнително малки групи да извършват операции, които преди са изисквали значителен брой специалисти.

"Гардиън" отбелязва, че именно тези непосредствени рискове - AI, използван за кибератаки, разработване на опасни патогени и други престъпни дейности - според експерти са по-конкретна заплаха в момента от хипотетичните сценарии за бъдещ свръхинтелект.

Anthropic призовава за по-тясно сътрудничество между технологичните компании, правителствата и специалистите по сигурност, тъй като според компанията злоупотребата с все по-мощни AI системи вече представлява международен проблем.