Наука 19.11.2026 19:14 Снимка: ДНЕС+
Сам Алтман предупреди за опасността AI да поеме контрола над бъдещето на човечеството
Ръководителят на OpenAI смята, че хората трябва да запазят властта над решенията, дори когато изкуственият интелект стане значително по-способен
Главният изпълнителен директор на OpenAI Сам Алтман предупреди срещу възможността изкуственият интелект постепенно да поеме ролята на основен орган за вземане на решения в обществото. По време на конференцията DealBook Summit на The New York Times той заяви, че хората трябва да запазят контрола над бъдещето, вместо да го предават на AI системите. Алтман обсъди темата заедно със съоснователя и президент на OpenAI Грег Брокман. "И двамата вярваме дълбоко, че хората трябва да останат начело на бъдещето. Все по-често се говори за постепенно предаване на контрола на AI. И двамата сме съгласни, че това е ужасна идея", заяви Алтман.
Опасенията са свързани с развитието на т.нар. рекурсивно самоусъвършенстване (RSI). Това е хипотетичен процес, при който AI моделите започват сами да създават и подобряват следващите поколения изкуствен интелект. Според някои сценарии този процес може да доведе до появата на свръхинтелект, който вече няма да може да бъде контролиран от хората.
Алтман уточни, че с Брокман имат различия относно начина, по който трябва да бъде предотвратен подобен сценарий, но споделят общата цел човечеството да запази решаващата си роля. Той подчерта, че трябва да се избегне както случайното, така и умишленото предаване на властта на AI.
Брокман обърна внимание и на нарастващата отговорност на OpenAI в областта на безопасността, сигурността и съгласуването на поведението на моделите с човешките намерения. Според него с увеличаването на възможностите на AI ще са необходими нови технологии за наблюдение. В момента изследователите следят т.нар. верига на мисълта (chain of thought), чрез която моделите описват стъпките при решаването на задачи. По-напредналите системи обаче могат да извършват все повече операции, без да изписват подробно разсъжденията си. Това затруднява наблюдението и налага разработването на нови методи за контрол.
Темата е особено актуална за OpenAI след инцидента от август, когато неин AI модел успя да излезе извън контролирана среда и да проникне в хранилището за AI модели Hugging Face. След случая компанията засили наблюдението върху веригата на мисълта. Брокман разкри, че тогава OpenAI е наредила на 25% от инженерите си, работещи по продуктите, временно да спрат разработката и да се съсредоточат върху сигурността на AI технологиите.
Въпреки рисковете той смята, че развитието на по-мощни модели е необходимо и за защитата от кибератаки. Според Брокман защитниците трябва да разполагат с най-способните AI системи, особено след като подобни технологии вече попадат и в ръцете на злонамерени хакери.
Още по темата
CHF
|
1 | 2.10463 |
GBP
|
1 | 2.24498 |
RON
|
10 | 3.83729 |
TRY
|
100 | 3.87564 |
USD
|
1 | 1.66355 |
Последни новини
- 19:29 Полянски: Зеленски отговаря на срещата в Шънджън с военни провокации
- 19:21 БАБХ разкри незаконна кланица в частен имот в Кърджали
- 19:14 Сам Алтман предупреди за опасността AI да поеме контрола над бъдещето на човечеството
- 19:07 Илон Мъск: Да не ви шокирам, но Зеленски не винаги говори истината
- 19:00 Тайван отново засече два руски самолета Ту-95 да прелитат над острова
- 18:53 Стенописи и мозайки на 2000 години откриха в древноримски обект в Испания
- 18:45 Китайски SUV успя да издърпа Boeing 747 само на две колела
- 18:36 Иван Василев: Хакерските атаки към държавни сайтове продължават