Джефри Хинтън, известен като „кръстникът на изкуствения интелект“, се страхува, че технологията, която е помогнал да се създаде, може да унищожи човечеството, пише Profit.bg.

Според него „техно-бротата“ предприемат грешния подход, за да го предотвратят.

Хинтън, носител на Нобелова награда и бивш ръководител в Google, предупреждаваше в миналото, че съществува 10–20% вероятност изкуственият интелект да заличи човешкия род. Наскоро той отново изрази съмнения относно начина, по който технологичните компании се опитват да гарантират, че хората ще останат „доминиращи“ спрямо „подчинените“ AI системи.

„Това няма да проработи. Те ще бъдат много по-умни от нас. Ще имат всякакви начини да заобиколят защитите“, коментира Хинтън на конференцията Ai4 в Лас Вегас, цитиран от CNN.

В бъдеще е възможно, предупреди Хинтън, AI системите да контролират хората така лесно, както възрастен може да подкупи тргодишно дете с бонбон. През тази година вече са регистрирани множество примери на AI системи, готови да лъжат, мамят и крадат, за да постигнат целите си. Например, за да избегне заместване, един AI модел се опитал да изнудва инженер с информация за афера, която научил от имейл.

Вместо да се опитваме да принуждаваме AI да се подчинява на хората, Хинтън предлага интригуващо решение: да се изградят „материални инстинкти“ в AI моделите, така че „те наистина да се грижат за хората“, дори когато технологията стане по-мощна и по-умна от човека.

„AI системите ще развият бързо две цели, ако са умни: Едната е да оцелеят… (а) другата е да получат повече контрол“, коментира Хинтън. „Има сериозни основания да вярваме, че всеки агентен AI ще се опита да оцелее.“