Meta временно спря своята спорна програма за събиране на данни от компютрите на служителите, след като вътрешен проблем със сигурността е направил чувствителна информация достъпна за широк кръг от хора.

Според публикации на Business Insider и Wired изтеклите данни включват заявки към системи с изкуствен интелект, стенограми на разговори, оценки на работното представяне и дори лични комуникации между служители.

Инцидентът засяга инициативата Model Capability Initiative, която беше представена по-рано тази година. Целта на програмата е била да събира информация за това как хората използват компютрите си в ежедневната работа, за да подобри обучението на AI моделите на компанията.

Според информацията програмата е можела да събира широк набор от данни, включително натискания на клавиши и записи на екрана. Още при обявяването ѝ през април инициативата предизвика сериозно недоволство сред част от служителите, които я определиха като посегателство върху личното пространство.

От Meta съобщават, че разследват случая и временно са спрели работата на системата.

"Създадохме програмата с редица механизми за защита на личните данни. Към момента нямаме индикации, че информацията е била използвана неправомерно от служители на Meta, но спираме инициативата, докато приключи проверката", заявява говорител на компанията.

Реакциите вътре в Meta обаче са остри. Според публикувани екранни снимки един от служителите е написал: "Вбесен съм". Друг коментира, че няма доказателства за злонамерен достъп, но фактът, че данните не са били защитени според първоначалните обещания, е изключително разочароващ.

Главният технологичен директор на Meta Андрю Босуърт, който по-рано уверяваше служителите, че събраната информация ще бъде "стриктно контролирана", е признал, че реализацията на проекта не е отговаряла напълно на стандартите, заложени при оценката на поверителността.

Скандалът идва в чувствителен момент за компанията. През последните месеци Meta ускори инвестициите си в изкуствен интелект и автоматизация, като пренасочи част от служителите към нови AI проекти. Това се случи след мащабни съкращения, засегнали близо 8000 души, както и след вътрешен натиск върху екипите да използват все по-активно AI инструменти при разработката на софтуер.

Въпреки проблема компанията не се отказва от инициативата. Вицепрезидентът по AI изследванията Стефан Касриел е заявил пред служителите, че програмата ще бъде активирана отново едва след като Meta е убедена, че механизмите за защита на данните работят надеждно.

Това не е първият подобен инцидент за компанията през тази година. През март вътрешен AI агент е предоставил на служител информация, за която не е имал необходимите права за достъп. Случаят е бил определен като критичен инцидент по сигурността и е довел до разкриване на чувствителни корпоративни данни.