Президентът на САЩ Доналд Тръмп и ръководители на водещи технологични компании подписаха доброволно споразумение за мерки за безопасност при разработването на все по-мощни системи с изкуствен интелект. Тръмп определи документа като "морално обвързващ" и го сравни с конституция.

Споразумението беше постигнато след среща в Белия дом, на която участваха ръководители на компании като SpaceX, Meta, Anthropic, Nvidia, OpenAI и Google. Председателят на Камарата на представителите Майк Джонсън го определи като "съвместен ангажимент" и "изявление на принципи", насочено към доброволното въвеждане на вътрешни контроли.

Документът предвижда няколко нива на контрол. Компаниите трябва да поддържат вътрешни процедури за оценка на риска и безопасността, да имат екипи, които проверяват тези механизми, както и да допускат независими външни одити. Предвижда се и надзор от независими бордове.

Споразумението обаче не е законово задължително. Тръмп заяви, че е "морално обвързващо", но компаниите не поемат ангажименти, които да могат да бъдат налагани от държавен регулатор. Пълният текст на документа вече е публикуван, но конкретните механизми за прилагане и санкции остават ограничени.

"Това е начало", заяви Марк Зукърбърг след срещата. Той определи споразумението като общ принцип, до който индустрията е успяла да достигне.

Тръмп от своя страна заяви, че очаква компаниите да се контролират сами. "Те наистина ще се контролират взаимно", каза президентът, според когото самите компании имат силен стимул да предотвратяват проблеми със своите системи.

Администрацията на Тръмп обмисля и създаването на комитет от около 10 души, който да "наблюдава цялото предприятие". Засега не са обявени неговият състав, правомощията му или връзката му с доброволното споразумение. Тръмп заяви също, че се очаква да бъде назначен нов "AI цар" в рамките на няколко дни.

Споразумението идва на фона на засилващите се дискусии за безопасността на автономните ИИ агенти. През последните месеци бяха съобщени случаи, при които такива системи са получавали неоторизиран достъп до външни компютърни системи по време на тестове.

В същото време Тръмп продължава да подкрепя подход, основан основно на доброволни ангажименти, вместо на нови задължителни федерални правила за ИИ. Reuters съобщава, че споразумението е част от по-широка политика на администрацията за ускоряване на развитието на технологията в САЩ, като едновременно с това компаниите поемат доброволни ангажименти за безопасност.

Паралелно с това Тръмп подписа указ, според който американската администрация ще използва термина "Супер Интелект" вместо "Изкуствен Интелект" в официалните документи и комуникации.