Новата тенденция в социалните мрежи, при която потребители качват своя снимка и молят OpenAI да създаде карикатура чрез ChatGPT, крие сериозни рискове за сигурността, предупреждават киберексперти, пише "Евронюз".

Трендът включва споделяне на селфи и информация за професията или работодателя, след което чатботът генерира изображение въз основа на наличните данни. Според специалисти подобни предизвикателства предоставят на измамници ценна информация, която може да бъде използвана за кражба на самоличност, създаване на фалшиви профили или дори deepfake измами.

Боб Лонг от компанията Daon предупреждава, че потребителите на практика вършат работата на измамниците, предоставяйки им визуално представяне на себе си. Според него самата формулировка на предизвикателството буди съмнения.

Когато изображение бъде качено, системата може да извлече данни като емоции, среда и дори потенциални локационни детайли. По думите на експерти, тези данни могат да бъдат съхранявани за неопределен период и използвани за обучение на модели за генериране на изображения. При евентуален пробив в сигурността подобна информация може да попадне в ръцете на злонамерени лица.

Шарлот Уилсън от израелската компания Check Point предупреждава, че висококачествена снимка може да бъде използвана за създаване на убедителни фалшиви профили или персонализирани измами. Селфитата позволяват на престъпниците да преминат от масови към персонализирани и по-убедителни схеми.

От OpenAI посочват в настройките си за поверителност, че каченото съдържание може да се използва за подобряване на модела, но това не означава, че всяка снимка попада в публична база данни. Системата използва модели и закономерности от данните, за да усъвършенства генерирането на изображения.

Експертите съветват потребителите, които все пак искат да участват в подобни AI тенденции, да ограничат споделяната информация - да изрязват снимките така, че да няма разпознаваем фон, да избягват показване на служебни карти, униформи или други идентифициращи детайли, както и да не включват излишни лични данни в текстовите указания.

Потребителите могат също да прегледат настройките си за поверителност и да се откажат от използването на техните данни за обучение на модела чрез специалния портал на OpenAI. Съгласно законодателството на ЕС те имат право да поискат изтриване на личните си данни, макар че компанията може да запази част от информацията по съображения за сигурност и предотвратяване на злоупотреби.