За да се постигне реална пауза, ще е необходимо множество големи компании за ИИ в различни страни да се съгласят едновременно на правилата

Компанията за изкуствен интелект Anthropic предложи да се направи глобална пауза в разработването на най-мощните системи за изкуствен интелект (ИИ), тъй като най-новите модели започват да дават признаци, че могат да излязат извън човешкия контрол, съобщи Франс прес, цитирана от БТА.

Базираната в Сан Франциско компания се оценява на почти 1 трилион долара (965 млрд.) и вече е по-голяма от OpenAI по редица показатели - включително и по приходи. Anthropic създава семейството облачни модели с ИИ. В последния си доклад компанията заявява, че световно забавяне в развитието на най-модерния изкуствен интелект "вероятно би било нещо добро" - но предупреди, че ако само една компания спре, конкурентите просто ще изпреварят останалите.

"Смятаме, че за света би било добре да има възможност да забави или временно да спре развитието на авангардния ИИ, за да позволи на обществените структури и изследванията за съгласуване да се приспособят към напредъка на технологията", се казва в доклада.

За да се постигне реална пауза, ще е необходимо множество големи компании за ИИ в различни страни - най-вече в САЩ и Китай - да се съгласят да спрат едновременно, съгласно правила, които всеки би могъл да провери, заявиха от Anthropic.

Тази идея може да се окаже донякъде непопулярна сред хора като Илон Мъск, тъй като дългоочакваното дебютиране на борсата на неговата компания SpaceX - която притежава неговото предприятие за изкуствен интелект xAI - се очаква да го превърне в първия трилионер в света.

"Без глобален механизъм за координация компаниите и правителствата ще трябва да вземат трудни решения относно безопасността, докато са подложени на конкурентен и геополитически натиск", заявиха от Anthropic.

Компанията срещна съпротива от други в бранша - и от служители в Белия дом - които твърдят, че фокусът ѝ върху най-лошите сценарии преувеличава рисковете и се равнява на стратегия за забавяне на конкурентите под прикритието на опасения за безопасността.

Въпреки това Белият дом признава мощността на модела "Митос" (Mythos) на компанията - който не е достъпен за широката общественост поради своите възможности в областта на киберсигурността и понастоящем се използва само от малък брой проверени организации.

Предложението ще се сблъска с тежък отпор от Вашингтон и Силициевата долина, доколкото представители на правителството на САЩ и ръководители в технологичния сектор многократно са твърдели, че всяко забавяне в развитието на изкуствения интелект рискува да даде на Китай решаващо стратегическо предимство в това, което мнозина считат за определящата технологична надпревара на века.

Президентът на САЩ Доналд Тръмп обаче заяви, че е обсъдил възможността за сътрудничество с Китай по въпроси, свързани с безопасността в сферата на изкуствения интелект, по време на неотдавнашното си посещение в Пекин.

Тръмп също така подписа тази седмица указ, която дава на правителството 30 дни да проведе предварителна проверка на най-мощните американски модели за изкуствен интелект преди тяхното пускане на пазара.

Anthropic сравни проблема с договорите за контрол над ядрените оръжия, но заяви, че ще бъде още по-трудно да се овладее, тъй като обучението на ИИ е много по-лесно да се скрие от ракетен силоз, а изкушението да се продължи тихо ще бъде огромно.

Призивът за координация идва на фона на вътрешни данни, показващи, че изкуственият интелект вече драстично ускорява развитието на самия изкуствен интелект, заявиха от Anthropic.

Това ускорение създава обратна връзка, която, според предупреждението на Anthropic, в крайна сметка може да доведе до това, което изследователите наричат "рекурсивно самоусъвършенстване".

Това е идеята за система за изкуствен интелект, която става способна по същество да се научи сама да става по-умна, без много човешка помощ.

"Все още не сме стигнали дотам, а рекурсивното самоусъвършенстване не е неизбежно", се казва в доклада на Anthropic, но се добавя, че то може да настъпи по-рано, отколкото повечето правителства и институции са готови за това.

"Данните сочат, че ролята на човека се стеснява на всеки етап от процеса на развитие на изкуствения интелект", заяви компанията.