Съоснователят на OpenAI — компанията зад ChatGPT — е предложил да бъде изграден бункер за края на света, в който да бъдат приютени водещите изследователи на компанията в случай на Армагедон, предизвикан от появата на нов вид изкуствен интелект, надминаващ човешките умствени способности, пише NY Post.

Иля Суцкевер, който често е определян като "мозъкът" зад ChatGPT, събрал водещи учени на среща през лятото на 2023 г., на която казал:

"Ние със сигурност ще построим бункер, преди да пуснем AGI."

Това смутило част от присъстващите. Суцкевер използвал изключително библейски термини, като Възнесение, за да опише апокалиптичното бъдеще предизвикано от разработваната от OpenAI технология.

Той обяснил, че целта на този бункер е да защити ключовите учени на OpenAI от евентуален геополитически хаос или насилствена конкуренция между световните сили след пускането на AGI — общ изкуствен интелект (Artificial General Intelligence), който надхвърля човешките възможности.

"Разбира се," добавил той, "ще бъде по избор дали искате да сте в бункера."

Тези твърдения са описани в книгата "Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI" на журналистката Карън Хао. Извадка от книгата беше публикувана в списание The Atlantic.

Оказва се, че това не е било единичен случай — двама други източници потвърждават пред Хао, че Суцкевер често е споменавал бункера в разговори вътре в компанията. Един от изследователите на OpenAI дори заявил:

"Има група хора — включително Иля — които буквално вярват, че създаването на AGI ще доведе до Възнесение. Наистина."

Макар Суцкевер да е отказал коментар, идеята за защитено убежище за учените зад AGI подчертава мащаба на тревожността сред някои от хората, разработващи най-мощната технология в света.

Суцкевер отдавна е възприеман като нещо като мистик в OpenAI — известен с това, че обсъжда изкуствения интелект в метафизични термини.

В същото време той е и един от най-талантливите технически умове зад ChatGPT и големите езикови модели, които изстреляха OpenAI на световната сцена. През последните години Суцкевер започнал да балансира между ускоряването на AI възможностите и необходимостта от повече сигурност.

Страховете от цивилизационен срив заради AGI не са ограничени само до Суцкевер.

През май 2023 г. главният изпълнителен директор на OpenAI Сам Алтман подписа публично писмо, в което се предупреждава, че ИИ може да представлява "екзистенциален риск" за човечеството. Докато писмото целеше да повлияе на регулаторните дебати, разговорите за бункера показват по-дълбоки и лични страхове сред ръководството на OpenAI.

Тези вътрешни противоречия между опасенията за сигурност и агресивните търговски амбиции на компанията кулминираха по-късно през 2023 г., когато Суцкевер и тогавашният технически директор Мира Мурати организираха кратък преврат в управителния съвет, с който отстраниха Алтман от компанията.

Според източници, централна причина за този ход била убеждението, че Алтман пренебрегва вътрешни протоколи за безопасност и концентрира прекалено много власт в ръцете си.

Суцкевер и Мурати заявили пред борда, че вече не вярват, че Алтман е способен да води организацията отговорно към целта ѝ.

"Не мисля, че Сам е човекът, който трябва да държи пръста си върху бутона за AGI," казал Суцкевер.

Решението на борда обаче просъществувало само няколко дни.

Под натиск на Microsoft, големите инвеститори и дори служителите, Алтман бе върнат на поста си. Впоследствие както Суцкевер, така и Мурати напуснаха  компанията.

Макар бункерът никога да не е бил официално обявен, той се е превърнал в символ на екстремната вяра и страхове, които изпитват някои от вътрешните хора в сферата на изкуствения интелект.

The Washington Post е потърсил коментар от OpenAI и Суцкевер.