Системите с изкуствен интелект на сравнимо с човешкото ниво могат да се превърнат в опасност за човечеството и затова всички AI лаборатории в света трябва да спрат да развиват своите по-мощни от GPT-4 модели за период от 6 месеца, в рамките на който да се изработят общи протоколи и политики за отговорно и безопасно обучение на алгоритмите. За това призовава неправителствената организация Future of Life Institute в отворено писмо, подкрепено от над 1000 представители на технологичните и академичните среди.

Сред тях е собственикът на Twitter Илон Мъск, но също съоснователят на Apple Стив Возняк, разработчици от компанията DeepMind на Google и много изследователи на изкуствения интелект.

Контекст: През последните 6 месеца платформите, които създават текстове, изображения и друго съдържание с "човешко" качество, буквално избухнаха като популярност сред потребителите. Възможността да получиш конкретен отговор вместо списък с линкове към сайтове възобнови битката между Google и Microsoft при уеб търсачките, но освен това приложения като ChatGPT се разглеждат като част от бъдещето на много професии.

Именно склонността на хората да се предоверяват на машините притеснява авторите на отвореното писмо.

В прав текст: "Трябва ли да дадем на машините да наводнят информационните ни канали с пропаганда и неистини? Трябва ли да автоматизираме всички работни места? Трябва ли да разработваме нечовешки умове, които в един момент ще са повече от нас и по-умни от нас и просто ще ни направят излишни? Трябва ли да рискуваме да загубим контрол над цивилизацията си? Подобни решения не трябва да се делегират на лидери от технологичния свят, които не са избрани от хората", пишат авторите на писмото.

От друга страна: Сам Алтман, шефът на OpenAI - компанията, която направи съвременния AI достъпен за хората, не се е подписал под писмото.

Има немалка ирония в участието на Илон Мъск в кампанията. Той е сред съоснователите на OpenAI, но я напусна през 2018 г. - много преди появата на ChatGPT. Според скорошни публикации Мъск тогава е опитвал да овладее компанията, но не му е било позволено.

Освен това, в свои не толкова отдавнашни коментари милиардерът критикуваше ChatGPT именно заради вградените от създателите му ограничения, които не му дават да създава непозволено съдържание./money.bg