Изкуственият интелект може да се ползва от недоброжелатели за създаването на фалшиви интимни изображения

Ofcom, интернет регулаторът на Обединеното кралство, публикува нови насоки в рамките на Закона за онлайн безопасност (OSA) за защита на жени и момичета от онлайн тормоз, мизогиния и злоупотреба с интимни изображения.

Особено внимание се отделя на борбата с дийпфейк порнографията чрез технология за хеш-съответствие, която идентифицира и премахва незаконно съдържание.

Недоброжелатели могат да ползват изкуствен интелект, за да създават фалшиви порнографски изображения с реални хора. Макар много от AI платормите да имат заложени ограничения, това не е достатъчно, за да спре кибер престъпниците.

Законът, приет през септември 2023 г., предвижда сериозни санкции за неспазване, но е критикуван за бавния си напредък. Първите задължения по OSA влизат в сила следващия месец, а пълното прилагане на новите насоки се очаква най-рано през 2027 г.

Ofcom препоръчва платформите да прилагат принципа "безопасност чрез дизайн". Той включва бариери пред злоупотреба с алгоритмите, изключване на геолокацията по подразбиране, тестове за "злоупотреба", засилена защита на акаунти и инструменти за лесно докладване на злоупотреби.

Ofcom ще следи спазването на насоките и ще публикува доклади, за да насърчи платформите да прилагат мерките, преди да се сблъскат с регулаторни санкции.