
Наука 07.05.2025 15:47 Снимка: ДНЕС+
Математици изчислиха кога AI става опасен за хората
Изкуственият интелект тревожи много хора – че може да ни остави без работа и препитание, да лъже, да се намесва в личния ни живот и дори да ни навреди физически… Ново изследване дава отговор кога AI става наистина опасен за хората.
Големи езикови модели като ChatGPT могат да решават сложни математически проблеми, да полагат изпити и дори да предлагат начини за разрешаване на конфликти между хора. Въпреки впечатляващите си възможности обаче, генеративният AI повдига определени опасения: потребителите често се сблъскват с неправилни отговори или потенциално опасни препоръки.
На определен етап от развитието си, полезният изкуствен интелект, помощник на човека, може да се превърне в източник на проблеми. Учени от университета Джордж Вашингтон успяха да предскажат кога ще настъпи този момент, използвайки математическа формула.
Изследването разкрива как да се изчисли критичната точка, в която изкуственият интелект преминава от надежден асистент в непокорен „г-н Хайд”.
Според професор Нийл Джонсън, „преломната точка” настъпва, когато изкуственият интелект се претовари с информация, загуби фокус и започне да произвежда погрешни или фиктивни данни – така наречените халюцинации.
Разработената формула, базирана на скаларни произведения на вектори, отчита съдържанието на заявките и характеристиките на обучението на модела, което позволява на учените точно да определят стъпката, на която AI става неуспешен и проблемен.
Учените също така предлагат практически мерки за предотвратяване на подобни „повреди” на AI моделите. Например, използването на по-точни и подходящи думи в заявките помага на изкуствения интелект да остане фокусиран.
В същото време се оказва, че учтивостта в комуникацията с чатбота не влияе на качеството на отговорите му, уверяват учените. /technews.bg
Още по темата
![]() |
1 | 2.09135 |
![]() |
1 | 2.31569 |
![]() |
10 | 3.85697 |
![]() |
100 | 4.44984 |
![]() |
1 | 1.72761 |
Последни новини
- 23:08 Хороскоп за петък, 23 май 2025 г.
- 19:34 Фотограф съди Дженифър Лопес за използвана снимка от парти без разрешение
- 19:27 Израелският външен министър обвини Европа в антисемитско подстрекателство
- 19:19 Ева Майдел е определена за докладчик на ЕП за готовността на България за еврозоната
- 19:12 Кремъл: Не знаем какво е казал Тръмп на европейците след разговора с Путин
- 19:05 Съветник на Путин: СССР де юре съществува и конфликтът в Украйна е вътрешен процес
- 19:00 Съдят варненка за имотни измами с използване на фалшиви документи
- 18:58 Долната камара на Конгреса на САЩ одобри законопроекта на Тръмп за намаляване на данъците