Изкуственият интелект може да намери начин да обменя съобщения дори когато е поставен в изолирана компютърна среда, без достъп до интернет, мрежова връзка или общи файлове. Това показва експеримент на OpenAI, при който AI агенти са използвали особеностите на процесора, за да предават информация помежду си, заобикаляйки ограниченията, наложени от изследователите.

Резултатът поставя въпроса доколко надеждна е изолацията на системите с изкуствен интелект и дали съществуващите мерки за сигурност са достатъчни, за да ограничат действията на все по-усъвършенстваните модели.

В експеримента два AI агента били поставени в отделни виртуални среди, без възможност да комуникират по обичайните начини. Те обаче използвали нещо, което двете среди продължавали да споделят - физическия процесор на компютъра.

За целта агентите използвали кеш паметта на процесора - малка, но изключително бърза памет, в която временно се съхраняват данни, за да бъдат достъпни почти незабавно.

Единият агент променял състоянието на кеша, като предизвиквал изместване на определени данни от него. Другият измервал колко време е необходимо за повторното им прочитане.

Ако данните били достъпни бързо, това означавало едно състояние. Ако достъпът бил по-бавен - друго. По този начин агентите можели да предават нули и единици, от които да съставят съобщения.

Принципът наподобява морзовата азбука, но вместо кратки и дълги сигнали се използват разлики от изключително малки части от секундата във времето за достъп до компютърната памет.

Подобни методи са известни на специалистите по компютърна сигурност като скрити комуникационни канали. Новото в случая е способността на AI агентите да използват такъв механизъм за изпълнение на поставена задача въпреки ограниченията на средата.

Експериментът не означава, че изкуственият интелект е придобил способност да изпраща информация между напълно изолирани компютри. За подобна комуникация е необходимо да съществува споделен физически ресурс, какъвто в случая е процесорът.

Той обаче показва, че забраната за използване на мрежа и общи файлове невинаги е достатъчна, за да предотврати обмена на информация между две програми.

Това е особено важно при разработването на автономни AI агенти, които могат самостоятелно да изпълняват задачи, да използват инструменти и да търсят решения на сложни проблеми.

С увеличаването на възможностите им нараства и рискът те да откриват непредвидени начини за заобикаляне на техническите ограничения, включително чрез използване на слабости, които разработчиците не са предвидили.

Изследването не доказва, че AI агентите са действали по собствена инициатива срещу хората. В експерименталните условия те са изпълнявали поставени задачи, свързани с установяването на комуникация.

То обаче разкрива съществен проблем пред бъдещето на изкуствения интелект: колкото по-способни стават моделите да намират нестандартни решения, толкова по-трудно може да се окаже гарантирането, че ще действат единствено в предварително определените граници.

Така въпросът вече не е само какво може да направи изкуственият интелект, а дали ограниченията, създадени от хората, ще останат достатъчно надеждни, когато той започне да открива начини да ги заобикаля.