Авторът е най-голямата мрежа от неправителствени организации за защита на правата и свободите онлайн EDRi
Най-голямата мрежа от неправителствени организации за защита на правата и свободите онлайн EDRi нарича Законодателния акт за изкуствения интелект разочароващ и пълен с дупки, когато става въпрос за забрани на различни форми на биометрично масово наблюдение (BMS). Въпреки това има някои предимства под формата на възможности да се противопоставим на BMS в обществени пространства и да настояваме за по-добра защита на чувствителните биометрични данни на хората, пише в сайта на EDRi.
Организацията напомня, че през пролетта на 2024 г. европейските законодатели предприемат последните процедурни стъпки, за да приемат до голяма степен разочароващ нов закон, AI Act на ЕС.
Очаква се този закон да влезе в сила през лятото, като една от най-горещо оспорваните части от закона – забраните за неприемливо вредно използване на AI/ИИ – се предвижда да се прилага от края на 2024 г. (шест месеца и 20 дни след като текстът е официално публикуван).
Първият проект на този закон от 2021 г. предлага да се забранят някои форми на публично лицево разпознаване, което показва, че законодателите вече се вслушват в исканията на нашата кампания Reclaim Your Face. Оттогава AI Act продължава да бъде фокусна точка в нашата борба да спрем хората да бъдат третирани като ходещи баркодове на обществени места.
Но след изтощителен тригодишен процес, преговорите по Закона за изкуствения интелект се приближават към незабележим край, с множество пропуснати възможности за защита на правата и свободите на хората или за поддържане на гражданското пространство.
Въпреки че AI Act трябва да забранява много неприемливи биометрични практики, от самото начало твърдим, че той може вместо това да се превърне в план за това как да се провежда BMS.
Както предвидихме, пише EDRi, окончателният акт предприема потенциално антиутопична стъпка към легализиране на публичното лицево разпознаване на живо – което досега никога не е било изрично разрешено в никоя страна от ЕС. Същото важи и за псевдонаучните системи за „четене на мисли“ с ИИ, които AI Act шокиращо позволява на държавите да използват в полицейски и граничен контекст. Използването на машини за категоризиране на пола на хората и други чувствителни характеристики, въз основа на това как изглеждат, също е разрешено в няколко контекста.
Ние отдавна твърдим, че тези практики никога не могат да бъдат съвместими с нашите основни права на достойнство, неприкосновеност на личния живот, защита на данните, свободно изразяване и недискриминация. Позволявайки ги в редица контексти, AI Act узаконява тези ужасяващи практики.
Въпреки че законът далеч не отговаря на пълната забрана на биометричното масово наблюдение в обществени пространства, за която ние призовахме, той все пак предлага няколко точки, за да продължим нашата борба в бъдеще. За да дадем един пример, ние имаме мощната възможност да се възползваме от широката политическа воля в подкрепа на нашата текуща работа срещу BMS, за да сме сигурни, че вратичките на AI Act няма да попаднат в националните закони на държавите-членки на ЕС.
Ето защо нашето предстоящо „Правно и практическо ръководство за борба с BMS след AI Act“ има за цел да информира и оборудва онези, които обмислят и се готвят за следващия етап в борбата срещу BMS.
Това ръководство ще посочи къде можем да използваме възможностите на AI Act, за да се борим за по-добра защита на нашите права да съществуваме без BMS в обществени пространства. Това включва очертаване на повече от 10 конкретни възможности за застъпничество, включително официални и неформални пространства за влияние, и подчертаване на частите от правния текст, които създават пространство за нашите усилия за натиск.
Напомняме си също, че докато забраните за биометрични данни бяха опасно разводнени, законът все пак приема, че трябва да забраним системите с изкуствен интелект, които не са съвместими с демократичното общество. Тази идея е жизненоважна концепция за тези от нас, работещи за защита на човешките права в ерата на AI/ИИ, и се сблъскахме с много опозиция по този въпрос от индустрията и консервативните законодатели.
Това правно и нормативно приемане на необходимостта от забрани на AI/ИИ има потенциала да създаде важен глобален прецедент за поставяне на правата и свободите на хората и общностите пред частните интереси на доходоносната технологична индустрия за сигурност и наблюдение. Индустрията иска всички технологии и практики да бъдат на масата – но AI Act показва, че това не е пътят на ЕС.