![Изкуственият интелект се учи да лъже и мами](https://dnesplus.bg/uploads/news/images/1158905/l-5.jpg)
Наука 11.06.2024 16:03 Снимка: ДНЕС+
Изкуственият интелект се учи да лъже и мами
Две нови проучвания разкриват, че големите езикови модели (LLM) стават все по-способи в това да лъжат или мамят човешки наблюдатели умишлено. Констатациите на учените са публикувани в журналите PNAS и Patterns.
Немският учен в областта на AI, Тило Хагендорф, заявява, че сложните LLM могат да бъдат насърчени да развият "макиавелизъм". С други думи - да се държат умишлено по манипулативен начин.
"GPT-4, например, проявява измамно поведение в прости тестови сценарии в 99,16% от времето", пише изследователят от университета в Щутгарт, цитирайки собствените си експерименти за количествено определяне на различни "неадаптивни" черти в 10 различни LLM, повечето от които са различни версии в GPT семейството на OpenAI.
Обявен като шампион на ниво човек в политическата стратегическа настолна игра "Diplomacy", моделът на Цицерон (Cicero) на Meta беше обект на проучването Patterns.
Изследователската група тук е съставена от физик, философ и двама експерти по безопасността на изкуствения интелект. Те откриват, че LLM изпревари своите човешки конкуренти чрез измама.
Питър Парк от Масачузетския технологичен институт установява, че Цицерон не само превъзхожда хората в измамите, но изглежда се е научил как да лъже по-умело и целенасочено - "много по-близко до явна манипулация".
Проучването на Patterns твърди, че в границите на играта, изкуственият интелект вече нарушава обещанието на своите програмисти, че "моделът никога умишлено няма да удари нож в гърба" на съюзниците си.
В играта изкуственият интелект "се занимава с предумишлена измама, нарушава сделките, на които се е съгласил, и говори откровени лъжи".
"Открихме, че AI на Meta се е научил да бъде майстор на измамата", завършва Питър Парк.
Изследванията показват, че изкуственият интелект може да е бил подтикнат от изследователите към това да се превърне в лъжец и манипулатор, а не да е развил тези умения сам.
Това е добра новина, ако се притеснявате от развитието на мощен и зъл AI. Но е и много лоша новина, ако се притеснявате, че някой човек или организация изграждат изкуствен интелект с цел масова манипулация.
Още по темата
![]() |
1 | 2.04264 |
![]() |
1 | 2.31555 |
![]() |
10 | 3.92974 |
![]() |
100 | 5.53808 |
![]() |
1 | 1.82549 |
Последни новини
- 00:16 Англия избегна "потока на смъртта", а Словения написа история
- 00:12 Дания отива на осминафинал, Сърбия не стори нищо, за да се класира напред
- 23:59 Евролидерите сключиха сделка за тримата първи
- 21:22 Хороскоп за сряда, 26 юни 2024 г.
- 21:10 И маскираният Мбапе не помогна: Нов неубедителен мач остави Франция втори в групата
- 21:06 Вдъхновен австрийски тим нокаутира Нидерландия в петголово шоу и спечели група D
- 19:33 Lufthansa вдига цените на билетите
- 19:22 Този прекрасен остров е най-безопасното място за пътуване през 2024 г.