Системата правела грешки и имало риск за личните данни

Полицейското управление на Лос Анджелис (LAPD) няма да поднови договора си с компанията Flock Safety, която разработва камери с изкуствен интелект за автоматично разпознаване на регистрационни номера. Решението идва след сериозни опасения за защитата на личните данни, гражданските права и надеждността на системата.

Договорът между двете страни изтича след три години. Вместо да бъде подновен, полицията реши да прекрати използването на технологията.

"Този договор няма да бъде подновен заради сериозни опасения, свързани с гражданските свободи и гражданските права, особено по отношение на защитата на личните данни и информацията, която се събира от тези камери", заяви главният информационен директор на LAPD Дийн Джаламас. По думите му полицията е взела трудно решение да прекрати използването на услугите на Flock, докато не бъдат решени въпросите, свързани със събирането, защитата и споделянето на данните.

Новината идва само дни след широко отразен случай в Минесота. Журналистът Джоел Федър от изданието The Drive разказа, че по време на тестово шофиране на Range Rover със съпругата си е бил спрян от въоръжени полицаи. По думите на служителите автомобилът е бил проследяван в продължение на дни чрез камерите на Flock, след като системата погрешно го е отчела като откраднат.

Допълнително напрежение предизвика и одит на службата на генералния инспектор към полицията в Лос Анджелис, публикуван на 10 юли. Проверката показва, че за период от два месеца системата е генерирала 161 фалшиви сигнала за откраднати автомобили. Всеки от тях е довел до спиране на невинен шофьор.

За същия период AI камерите са помогнали за откриването на 337 действително откраднати автомобила. Това означава, че близо една трета от всички сигнали са били погрешни. Според изчисленията процентът на грешките достига 32,3%.

"През разглеждания период служителите са потвърдили 161 сигнала като съвпадение на регистрационния номер. Последвалите проверки обаче са установили, че автомобилите не са били откраднати", се казва в доклада. Според инспекторите подобни грешки не само създават неудобства за собствениците на автомобили, но могат да засегнат гражданските права, да подкопаят общественото доверие и да доведат до сериозни правни и финансови последици.

Одитът посочва, че полицаите са задължени да проверяват информацията, преди да спрат даден автомобил. Не се уточнява обаче в колко от случаите това изискване не е било изпълнено. Според проверяващите една от основните причини е, че базите данни с регистрационни номера невинаги се актуализират навреме. Това увеличава риска служителите да действат по остаряла или неточна информация, което може да доведе до неправомерни проверки, задържания или дори опасни ситуации.

Докладът отбелязва още, че полицията в Лос Анджелис третира сигналите за потенциално откраднати автомобили като високорискови операции. Те често включват изпращане на подкрепления, въздушно наблюдение, присъствието на старши служител и извеждане на заподозрените от автомобила под полицейски контрол.

Решението на LAPD е необичайно, тъй като управлението е сред най-активните полицейски структури в САЩ по отношение на използването на технологии за наблюдение.

То разполага с договори с Palantir и използва различни системи за анализ на данни и наблюдение. Именно затова отказът от технологията на Flock Safety се разглежда като показателен сигнал, че дори полицията е преценила, че настоящата система създава прекалено големи рискове за гражданските права и обществения интерес.