МИ5 проучва потенциален риск от неконтролируем AI

ЕС и Свят 16.10.2025 18:32 Снимка: ДНЕС+

МИ5 проучва потенциален риск от неконтролируем AI

Британски разузнавачи са започнали да работят за преодоляване на потенциалния риск, представляван от неконтролируеми системи с изкуствен интелект, заяви генералният директор на МИ5 Кен Маккалъм, цитиран от Пи Ей Мидия/ДПА и БТА.

Маккалъм каза, че би било безразсъдно да бъде пренебрегнат потенциалът на изкуствения интелект да причинява вреди.

В реч в централата на МИ5 в Лондон той настоя, че не "прогнозира сценарии от холивудски филми", но посочи, че разузнавателните агенции трябва вземат предвид рисковете.

"МИ5 вече повече от век прави изобретателни неща, за да надмине в иновациите нашите човешки - и понякога нечовешки - противници", заяви Маккалъм. "През 2025 г. обаче, докато се справяме с днешните заплахи, трябва да проучим и следващата граница - потенциалните бъдещи рискове от страна на автономни системи за изкуствен интелект без човешка намеса, които биха могли да се освободят от човешки надзор и контрол", добави той.

"Като цяло аз съм оптимист за технологиите, който смята, че изкуственият интелект носи истински ползи", посочи Маккалъм. "Изкуственият интелект може никога да не поиска "умишлено" да ни навреди. Би било обаче безразсъдно да пренебрегнем потенциала му да причинява вреди", предупреди той.