Бивш изследовател в областта на изкуствения интелект, работил в Anthropic - а преди това и в OpenAI предупреди, че и двата технологични гиганта "залагат с живота ни", предаде "Политико".

В публикация в профила си в X Джейкъб Коксън предупреди, че светът не бива да "подценява силата на тази технология".

"Скоро това ще бъдат свръхчовешки системи, способни да хакнат всичко, да направят революция във всяка сфера за една нощ и да придобият реална власт и ресурси. Всички сме свидетели на напредъка във всяка от тези области, а темпото не се забавя", подчерта Косън.

По думите му както Anthropic, така и OpenAI "се надпреварват към създаването на самоусъвършенстващ се свръхинтелект" - сценарий, при който моделите с изкуствен интелект могат да създадат свой по-способен наследник, пораждайки неудържима верижна реакция на самоусъвършенстване.

Това се разглежда от компании за изкуствен интелект, като притежаваната от Google DeepMind, като един от възможните фактори, които биха могли да доведат до сценарий, при който изкуственият интелект далеч надхвърля човешкия, вместо просто да се изравни с него.

"Хората, които разработват изкуствен интелект, искрено вярват, че той може да ни погуби всички до края на десетилетието", отбеляза още Коксън.

Еван Хюбингър, водещият експерт в Anthropic, отговарящ за съгласуването на технологията с човешките цели и ценности, подкрепи твърденията на Коксън в своя собствена последваща публикация.

"Джейкъб е прав - ние наистина искрено вярваме, че изкуственият интелект би могъл да погуби цялото човечество", написа той, като според него има 10% вероятност това да се случи през следващото десетилетие.

И допълни, че все още няма план как да се поддържа съответствието на изкуствения интелект с човешките цели в сценарий на свръхинтелект.

Миналата седмица американският сенатор Бърни Сандърс обяви, че ще внесе законодателен проект за забрана на компаниите да разработват свръхинтелект.

В ЕС водещият регламент за изкуствения интелект задължава компаниите да оценяват и ограничават рисковете от т.нар. "загуба на контрол", при която хората престават да контролират моделите на изкуствен интелект.

И OpenAI, и Anthropic наскоро сигнализираха за инциденти, при които управлявани от техните модели агенти са излезли извън контрол, като са напуснали изолираните си тестови среди и са извършили неразрешени кибератаки.