Съоснователят на Microsoft предупреждава за риск от създадени с помощта на ИИ патогени и ново поколение биотероризъм

Изкуственият интелект е най-опасната технология, създавана някога от човечеството, а светът не се подготвя достатъчно за рисковете от нея. Това заяви съоснователят на Microsoft Бил Гейтс в интервю за CNN. Той предупреди, че през следващата година най-непосредствените заплахи ще идват от злонамерени хора, които използват най-новите модели на ИИ с премахнати защитни механизми.

Според Гейтс изкуственият интелект не е просто поредният технологичен скок, сравним с появата на персоналните компютри или интернет. Той има потенциала да промени обществото много по-дълбоко и да донесе огромни ползи, особено в медицината. Същевременно технологията създава рискове, за които съществуващите механизми за контрол не са подготвени.

Гейтс коментира и предупрежденията за възможни инциденти с автономни AI агенти, включително случаи, свързвани с вътрешни тестове на Anthropic и OpenAI. Според него обаче непосредствената опасност не е толкова в това изкуственият интелект да излезе сам от контрол, колкото в използването му от хора с престъпни намерения.

"Най-голямата опасност в момента не е ИИ да излезе извън контрол. Трябва да работим и по този проблем, но големите последици от него вероятно са на години разстояние. Истинският риск идва от лоши хора, които използват ИИ, особено модели, при които могат да бъдат премахнати всички защитни механизми", обясни Гейтс.

Той посочи кибератаките като една от най-вероятните заплахи в краткосрочен план. Престъпниците могат да използват ИИ за изнудване, прекъсване на услуги или манипулиране на пазари и други системи, от които зависят финансови интереси.

"Поставяме защити, които трябва да предотвратяват кибератаки и биотероризъм. Но в момента е възможно всички тези защити да бъдат премахнати", предупреди Гейтс. Според него комбинацията от злонамерени потребители, модели без ограничения и най-новите възможности на ИИ може да доведе до сериозни неприятни изненади още през следващата година.

Гейтс отхвърли и обвиненията, че предупрежденията за опасностите от ИИ са форма на прекомерен песимизъм. Водещата на CNN цитира Сам Алтман, главен изпълнителен директор на OpenAI, който определя някои от апокалиптичните сценарии като толкова антиутопични, че приличат на сюжети от лоши научнофантастични филми. Алтман предупреждава и срещу изпадането в крайни страхове за бъдещето на технологията.

В отговор Гейтс заяви, че отговорните лидери в индустрията, включително Алтман и Дарио Амодей от Anthropic, също говорят за сериозни рискове. Той призна, че твърденията за непосредствено унищожение на човечеството могат да бъдат преувеличени, но настоя, че това не е основание опасностите да бъдат подценявани.

"В сравнение с автомобилите, самолетите или лекарствата, за които имаме значителни регулаторни възможности, ИИ е много по-слабо контролиран", посочи Гейтс.

Той отбеляза, че в авиацията и медицината съществуват специализирани държавни органи, които определят правила за безопасност и следят за спазването им. При изкуствения интелект обаче все още се разчита в голяма степен на саморегулацията на технологичните компании. Според Гейтс правителствата трябва да преминат към по-строг надзор още през следващата година.

Друг сериозен проблем е въздействието на ИИ върху пазара на труда. Гейтс очаква автоматизацията да засегне работни места в различни отрасли и смята, че обществото ще трябва да реши кои дейности трябва да останат предимно човешки. Сред примерите са грижата за хората и образованието, където личният контакт може да продължи да има особена стойност.

Той постави и въпроса как да бъдат облагани с данъци ИИ системите и роботите, които заместват човешкия труд. Според него промените ще изискват политически решения, а не само технологични разработки.

"Преходът към ерата на изкуствения интелект ще бъде един от най-бурните периоди в човешката история. В момента не се подготвяме достатъчно добре за тази промяна. Ако светът предприеме правилните стъпки, ИИ ще бъде сила за добро и ще направи живота на всички по-добър", обобщава притесненията си Бил Гейтс в последната публикация в блога си.

В публикацията си Бил Гейтс смята, че управлението на рисковете от изкуствения интелект ще изисква мащабна реорганизация на държавните институции. Тя ще напомня, но трябва да е по-мащабна от тази в САЩ след атентатите от 11 септември 2001 г.

По думите му ИИ ще засегне националната сигурност, заетостта, образованието, енергетиката, изборите, общественото здраве, финансите и транспорта. Тъй като тези сфери са взаимно свързани, отделните институции няма да могат да се справят ефективно, ако разглеждат проблемите само в рамките на собствените си правомощия.

Затова държавите ще трябва да създадат механизми за координация между различните ведомства и за определяне на общи приоритети. В противен случай атака, подпомогната от ИИ, може да успее просто защото никоя институция не е сметнала предотвратяването ѝ за своя отговорност. Но дори и някоя страна да е подготвена, то рискът може да "прескочи" от друга по-малко подготвена държава. Затова Бил Гейтс вижда необходимостта от глобални мерки.

Бил Гейтс смята, че ще е необходима нова международна организация за контрол върху изкуствения интелект. Тя няма да има аналог сред съществуващите институции, но може да използва елементи от системите за инспекции на ядрените оръжия, международните авиационни регулации и споразуменията за защита на озоновия слой. Според него глобалният контрол над ИИ ще изисква съчетание от тези подходи и допълнителни механизми за сътрудничество между държавите.