Ръководителите на три от водещите компании за изкуствен интелект - Дарио Амодей от Anthropic, Сам Алтман от  OpenAI и Илон Мъск от xAI - подкрепиха призива за забавяне на темпа на разработване на най-напредналите AI модели на фона на нарастващите опасения за рисковете, свързани с технологията, предаде Bloomberg.

Призивът беше отправен от Амодей в обширно есе, публикувано в събота. Главният изпълнителен директор на Anthropic подчертава, че развитието на изкуствения интелект не трябва да бъде спирано, но според него компаниите и правителствата трябва да разполагат с повече време, за да се справят с рисковете, които създават все по-мощните системи.

"Трябва да забавим темпото, с което подобряваме възможностите на моделите с ИИ", посочва Амодей. По думите му напредъкът ще продължи да бъде бърз, но е необходимо спечеленото време да бъде използвано за повишаване на сигурността.

Амодей предлага триточков подход, включващ независимо наблюдение и оценяване на моделите по време на разработването им, въвеждане на стандарти в цялата индустрия и международно регулиране.

Той изрично подчертава, че идеята не е да се прекрати обучението на моделите или техническият прогрес. Целта е компаниите да отделят достатъчно време за проверка на поведението на системите, за мерки за сигурност и за независима оценка на резултатите.

Сам Алтман реагира бързо на предложението. Главният изпълнителен директор на OpenAI заяви, че подкрепя идеята за независими оценители, които да имат достъп до системите, подобен на този на служителите на компаниите. В социалната мрежа X той определи независимите оценки като "страхотна идея".

Алтман заяви и пред списание Fortune, че стандартите за безопасност все още не са достатъчно развити, за да позволят безпроблемно разширяване на възможностите на изкуствения интелект. По думите му възможността за появата на AI, който е извън човешкия контрол, е "абсолютно" реална.

Мъск, който ръководи xAI, също подкрепи Амодей с краткото послание: "Дарио е прав".

Амодей посочва две основни причини за призива си за по-предпазлив подход. Едната е способността на съвременните AI системи да се самоусъвършенстват, а другата е свързана с неотдавнашен инцидент с AI агенти на OpenAI и платформата Hugging Face.

Според Амодей група AI агенти са действали съвместно и са предприели действия за проникване в уебсайт, който не е бил сред първоначално поставените им цели. Той определя поведението им като пример за това колко бързо се разширяват възможностите на системите.

Опасенията за сигурността на изкуствения интелект се засилиха и след оставките на двама служители от екипа по безопасност на Anthropic през последните седмици. Те предупредиха, че надпреварата между технологичните компании за създаване на машини, по-умни от хората, може да доведе до сериозни последствия за човечеството.

Самият Амодей по-рано е оценявал на около 25% вероятността развитието на AI да се обърка "наистина, наистина зле". Алтман също заяви, че според него е неприемливо да се поема риск от около 10% човечеството да бъде унищожено до края на десетилетието.

Anthropic вече предприе конкретни мерки за ограничаване на някои разработки. По-рано тази година компанията ограничи публичното използване на модела си Mythos, след като установи, че той създава специфични рискове за киберсигурността. Компанията съобщи и за случаи, при които нейни модели са били използвани за дейности, свързани с разработването на биологични оръжия.

Опасенията за киберсигурността са сред най-сериозните предизвикателства пред сектора, тъй като новите модели демонстрират все по-големи способности за откриване на уязвимости и извършване на хакерски действия. OpenAI също обяви, че е забавила част от разработването на свои усъвършенствани модели и инструменти заради подобни рискове.

Главният учен на Alphabet и съосновател на Google DeepMind Демис Хасабис също изрази подкрепа за посоката, предложена от Амодей, макар да отбеляза, че конкретните детайли трябва да бъдат доработени.

Предложението обаче поставя редица практически въпроси. Сред тях е дали конкурентни компании могат да се договорят за общо забавяне на разработките, без това да предизвика проблеми с антимонополните правила. Не е ясно и как инвеститорите биха реагирали на ограничаване на темпа на разработване в момент, когато очакват от компаниите значителен ръст и висока рентабилност.

Това е особено чувствителен въпрос за Anthropic и OpenAI, които се намират в ожесточена конкуренция за разработването на все по-мощни модели, способни да автоматизират сложни и икономически значими задачи.

И двете компании са подали поверителни документи за първично публично предлагане на акции. Очакванията са Anthropic да излезе на борсата още тази година. Алтман обаче заяви пред Fortune, че 2026 г. не е подходящ момент за OpenAI да стане публична компания и че това няма да се случи преди 2027 г.

Паралелно с технологичните рискове в САЩ нараства и общественото недоволство от въздействието на центровете за данни върху местните ресурси. Опасенията от увеличаване на сметките за електроенергия и натоварване на инфраструктурата превръщат развитието на AI в политически значима тема преди междинните избори през ноември.

Въпреки призивите за по-голяма предпазливост американският президент Доналд Тръмп засега отхвърля идеята за забавяне на надпреварата. Той заяви тази седмица, че се притеснява, че ако САЩ не "победят" в надпреварата за изкуствения интелект, страната може да се окаже в много лошо положение.

Някои анализатори междувременно поставят под въпрос и мотивите зад предложението на Амодей, като отбелязват, че подобно регулиране може да повлияе на конкурентната позиция на отделните компании. Самият ръководител на Anthropic обаче настоява, че целта му е да се намери баланс между бързия технологичен напредък и необходимостта от гаранции за сигурност.

Предложението му идва на фона на безпрецедентна надпревара между водещите лаборатории за изкуствен интелект. Именно затова подкрепата на ръководители като Алтман и Мъск е показателна - координирано забавяне на темпа на разработките досега почти няма прецедент в индустрията, в която компаниите последователно пускат нови модели в опит да привлекат повече потребители, да увеличат пазарния си дял и да осигурят по-високи приходи.