Сам Алтман предупреди за опасността AI да поеме контрола над бъдещето на човечеството

Наука 19.11.2026 19:14 Снимка: ДНЕС+

Сам Алтман предупреди за опасността AI да поеме контрола над бъдещето на човечеството

Ръководителят на OpenAI смята, че хората трябва да запазят властта над решенията, дори когато изкуственият интелект стане значително по-способен

Главният изпълнителен директор на OpenAI Сам Алтман предупреди срещу възможността изкуственият интелект постепенно да поеме ролята на основен орган за вземане на решения в обществото. По време на конференцията DealBook Summit на The New York Times той заяви, че хората трябва да запазят контрола над бъдещето, вместо да го предават на AI системите. Алтман обсъди темата заедно със съоснователя и президент на OpenAI Грег Брокман. "И двамата вярваме дълбоко, че хората трябва да останат начело на бъдещето. Все по-често се говори за постепенно предаване на контрола на AI. И двамата сме съгласни, че това е ужасна идея", заяви Алтман.

Опасенията са свързани с развитието на т.нар. рекурсивно самоусъвършенстване (RSI). Това е хипотетичен процес, при който AI моделите започват сами да създават и подобряват следващите поколения изкуствен интелект. Според някои сценарии този процес може да доведе до появата на свръхинтелект, който вече няма да може да бъде контролиран от хората.

Алтман уточни, че с Брокман имат различия относно начина, по който трябва да бъде предотвратен подобен сценарий, но споделят общата цел човечеството да запази решаващата си роля. Той подчерта, че трябва да се избегне както случайното, така и умишленото предаване на властта на AI.

Брокман обърна внимание и на нарастващата отговорност на OpenAI в областта на безопасността, сигурността и съгласуването на поведението на моделите с човешките намерения. Според него с увеличаването на възможностите на AI ще са необходими нови технологии за наблюдение. В момента изследователите следят т.нар. верига на мисълта (chain of thought), чрез която моделите описват стъпките при решаването на задачи. По-напредналите системи обаче могат да извършват все повече операции, без да изписват подробно разсъжденията си. Това затруднява наблюдението и налага разработването на нови методи за контрол.

Темата е особено актуална за OpenAI след инцидента от август, когато неин AI модел успя да излезе извън контролирана среда и да проникне в хранилището за AI модели Hugging Face. След случая компанията засили наблюдението върху веригата на мисълта. Брокман разкри, че тогава OpenAI е наредила на 25% от инженерите си, работещи по продуктите, временно да спрат разработката и да се съсредоточат върху сигурността на AI технологиите.

Въпреки рисковете той смята, че развитието на по-мощни модели е необходимо и за защитата от кибератаки. Според Брокман защитниците трябва да разполагат с най-способните AI системи, особено след като подобни технологии вече попадат и в ръцете на злонамерени хакери.

CHF CHF 1 2.10463
GBP GBP 1 2.24498
RON RON 10 3.83729
TRY TRY 100 3.87564
USD USD 1 1.66355