Надпреварата за създаване на суперинтелигентен изкуствен интелект вече е сравнима с програмата за създаване на атомната бомба през 40-те години на миналия век

В политически документ, публикуван в сряда, бившият изпълнителен директор на Google Ерик Шмидт, изпълнителният директор на Scale AI Александър Уанг и директорът на Центъра за безопасност на изкуствения интелект Дан Хендрикс заявиха, че САЩ не трябва да предприемат инициатива подобна на проекта "Манхатън" за разработване на изкуствен интелект със "свръхчовешки" способности, известен като AGI (Artificial General Intelligence), предава TechCrunch.

Документът, озаглавен "Стратегия за суперинтелигентност", твърди, че агресивният стремеж към изключителен контрол над суперинтелигентния AI би довел до остра реакция от страна на Китай - потенциално под формата на кибератака, която може да дестабилизира международните отношения.

"[Проект Манхатън за AGI] предполага, че съперниците ще приемат трайно неравновесие или дори омницид (унищожение на цялото човечество), вместо да се опитат да го предотвратят", пишат съавторите. "Това, което започва като стремеж към супероръжие и глобален контрол, крие риск от враждебни контрамерки и ескалация на напрежението, подкопавайки самата стабилност, която тази стратегия уж цели да гарантира."

Документът идва само няколко месеца след като американска конгресна комисия предложи инициатива в стил "Проект Манхатън" за финансиране на развитието на AGI, базирана на програмата за създаване на атомната бомба през 40-те години.

Наскоро американският министър на енергетиката Крис Райт заяви, че САЩ се намират в "началото на нов Проект Манхатън за AI", заставайки пред суперкомпютър заедно с един от съоснователите на OpenAI, Грег Брокман.

AGI като оръжие - и как да се избегне надпреварата

Документът Стратегия за суперинтелигентност оспорва идеята, популярна сред някои американски политици и индустриални лидери, че подкрепяна от правителството програма за разработка на AGI е най-добрият начин за конкуренция с Китай.

Според Шмидт, Уанг и Хендрикс, САЩ се намират в ситуация, наподобяваща ядреното гарантирано взаимно унищожение (MAD - Mutually Assured Destruction). Както глобалните сили не се стремят към монопол върху ядрените оръжия, тъй като това би могло да доведе до превантивен удар от противник, така и САЩ трябва да бъдат предпазливи с амбицията да доминират в сферата на суперинтелигентния AI.

Въпреки че сравняването на AI със ядрени оръжия може да изглежда крайно, световните лидери вече го разглеждат като ключово военно предимство. Пентагонът открито заявява, че AI ускорява военните операции, включително т.нар. kill chain - процесът на идентифициране и елиминиране на цели.

Шмидт и съавторите въвеждат концепцията Взаимно гарантирана AI неизправност (MAIM - Mutual Assured AI Malfunction). Тя предлага държавите проактивно да неутрализират заплашителни AI проекти, вместо да изчакват противниците да ги превърнат в оръжие.

Вместо да се опитва да "спечели надпреварата към суперинтелигентността", документът предлага САЩ да разработят стратегии за възпиране на други държави от създаването на суперинтелигентен AI. Според авторите, правителството трябва да разшири арсенала си от кибератаки за неутрализиране на потенциално опасни AI проекти на чужди държави и да ограничи достъпа на противници до напреднали AI чипове и отворени AI модели.

Авторите идентифицират два основни лагера в дебата за AI:

• "Думърите" - тези, които смятат, че катастрофални последици от AI са неизбежни и призовават за забавяне на развитието му.

• "Щраусите" - тези, които настояват за ускоряване на AI разработките, надявайки се, че всичко ще се нареди от само себе си.

Документът предлага трети път - умерен подход, който се фокусира върху защитни стратегии при разработката на AGI.

Тази промяна в позицията на Шмидт е особено забележителна, тъй като досега той беше един от най-големите поддръжници на агресивна AI конкуренция между САЩ и Китай.

Само преди няколко месеца той публикува статия, в която твърдеше, че появата на китайския AI модел DeepSeek бележи повратна точка в технологичната надпревара между двете държави.

Въпреки това, администрацията на Тръмп изглежда твърдо решена да продължи с развитието на AI без забавяне. Но както посочват авторите, решенията на Америка относно AGI не съществуват във вакуум.

Докато светът следи как САЩ изтласкват границите на изкуствения интелект, Шмидт и съавторите му предлагат по-разумен, отбранителен подход./Dir.bg