Европейският парламент, Съветът и Комисията постигнаха компромис на високо ниво какви да са основните правила за AI в Европа
На 8 декември, след над 36 часа преговори, беше постигнато политическо споразумение относно текстовете на регламента за изкуствения интелект (AI/ИИ) на ЕС. Европейският парламент, Съветът и Комисията постигнаха компромис на високо ниво относно основните правила за изкуствения интелект в Европа, коментира в сайта си най-голямата мрежа от неправителствени организации за защита на правата и свободите онлайн EDRi.
Евродепутатите постигнаха политическо споразумение със Съвета по законопроект, за да се гарантира, че ИИ в Европа е безопасен, зачита основните права и демокрацията, докато бизнесът може да процъфтява и да се разширява.
В петък преговарящите от Парламента и Съвета постигнаха временно споразумение относно Закона за изкуствения интелект, възторжено съобщи сайтът на ЕП. Този регламент има за цел да гарантира, че основните права, демокрацията, върховенството на закона и устойчивостта на околната среда са защитени от ИИ с висок риск, като същевременно насърчава иновациите и прави Европа лидер в тази област. Правилата установяват задължения за ИИ въз основа на неговите потенциални рискове и ниво на въздействие, пише още там. Съветът също не крие емоции: Проектът на регламент има за цел да гарантира, че системите с ИИ, пуснати на европейския пазар и използвани в ЕС, са безопасни и зачитат основните права и ценностите на ЕС. Това забележително предложение също има за цел да стимулира инвестициите и иновациите в ИИ в Европа.
Това е историческо постижение и огромен крайъгълен камък към бъдещето! Е цитирана да възкликва Карме Артигас, испански държавен секретар по цифровизацията и изкуствения интелект.
Като се имат предвид спецификите на правоприлагащите органи и необходимостта да се запази способността им да използват ИИ в жизненоважната си работа, бяха договорени няколко промени в предложението на Комисията, свързани с използването на системи с ИИ за целите на правоприлагането. При спазване на подходящи предпазни мерки, тези промени имат за цел да отразят необходимостта от спазване на поверителността на чувствителните оперативни данни във връзка с техните дейности. Например беше въведена спешна процедура, позволяваща на правоприлагащите органи да разположат високорисков инструмент за изкуствен интелект, който не е преминал процедурата за оценка на съответствието в случай на спешност. Въпреки това беше въведен и специфичен механизъм, за да се гарантира, че основните права ще бъдат достатъчно защитени срещу всякакви потенциални злоупотреби със системите за ИИ.
Освен това, що се отнася до използването на дистанционни системи за биометрична идентификация в реално време в обществено достъпни пространства, временното споразумение изяснява целите, когато такова използване е строго необходимо за целите на правоприлагането и за които следователно правоприлагащите органи следва да имат право по изключение да използват такива системи. Компромисното споразумение предвижда допълнителни гаранции и ограничава тези изключения до случаи на жертви на определени престъпления, предотвратяване на истински, настоящи или предвидими заплахи, като терористични атаки, и издирвания на хора, заподозрени в най-тежките престъпления.
Глобите за нарушения на закона за ИИ бяха определени като процент от глобалния годишен оборот на компанията-нарушител през предходната финансова година или предварително определена сума, която от двете е по-висока. Това ще бъде 35 милиона евро или 7% за нарушения на забранените приложения за изкуствен интелект, 15 милиона евро или 3% за нарушения на задълженията на закона за изкуствен интелект и 7,5 милиона евро или 1,5% за предоставяне на невярна информация.
Временното споразумение предвижда оценка на въздействието върху основните права, преди високорискова AI система да бъде пусната на пазара от нейните внедрители. Временното споразумение също така предвижда повишена прозрачност по отношение на използването на системи с изкуствен интелект с висок риск. По-специално, някои разпоредби от предложението на Комисията бяха изменени, за да се посочи, че някои потребители на високорискова система с ИИ, които са публични субекти, също ще бъдат задължени да се регистрират в базата данни на ЕС за високорискови системи с ИИ. Освен това новодобавените разпоредби поставят акцент върху задължението на потребителите на система за разпознаване на емоции да информират физически лица, когато са изложени на въздействието на такава система.
Временното споразумение предвижда, че законът за ИИ следва да се прилага две години след влизането му в сила, с някои изключения за конкретни разпоредби, пише в съобщението на Съвета.
В съобщението на ЕП пише, че признавайки потенциалната заплаха за правата на гражданите и демокрацията, породена от някои приложения на ИИ, съзаконодателите се съгласиха да забранят:
- биометрични системи за категоризиране, които използват чувствителни характеристики (например политически, религиозни, философски убеждения, сексуална ориентация, раса);
- нецеленасочено изтриване на изображения на лица от интернет или видеозаписи за създаване на бази данни за разпознаване на лица;
- разпознаване на емоции на работното място и в образователните институции;
- социално оценяване въз основа на социално поведение или лични характеристики;
- AI системи, които манипулират човешкото поведение, за да заобиколят свободната им воля;
- AI, използван за използване на уязвимостите на хората (поради тяхната възраст, увреждане, социално или икономическо положение).
Преговарящите се споразумяха за поредица от предпазни мерки и тесни изключения за използването на биометрични идентификационни системи (RBI) в обществено достъпни пространства за целите на правоприлагането, предмет на предварително съдебно разрешение и за строго определени списъци с престъпления. „Постдистанционният“ RBI ще се използва стриктно при целенасоченото издирване на лице, осъдено или заподозряно в извършване на тежко престъпление.
RBI „в реално време“ ще отговаря на строги условия и използването му ще бъде ограничено във времето и местоположението за целите на:
- целенасочени издирвания на жертви (отвличане, трафик, сексуална експлоатация),
- предотвратяване на конкретна и настояща терористична заплаха, или
- локализирането или идентифицирането на лице, заподозряно в извършване на едно от конкретните престъпления, посочени в регламента (напр. тероризъм, трафик, сексуална експлоатация, убийство, отвличане, изнасилване, въоръжен грабеж, участие в престъпна организация, екологични престъпления).
Председателството ще представи компромисния текст на представителите на държавите-членки (Корепер) за одобрение, след като тази работа приключи.
Сделката е постигната, но е твърде рано за празнуване, написаха от EDRi и коментираха: въпреки че някои защити на основните права бяха спечелени, законът като цяло не оправда потенциала си да постави хората и техните права в центъра и „дяволът ще бъде в подробностите“.
Досега знаем, че сделката включва забрана за публично лицево разпознаване на живо, но с няколко изключения за търсене на определени жертви, заподозрени и за предотвратяване на терористични атаки. Въпреки че тези условия са по-тесни, отколкото настояваха държавите-членки на ЕС, те все пак създават път за използване на тези системи по опасни, дискриминационни и масови начини за наблюдение;
Ограничение на пост (ретроспективно) публично лицево разпознаване само за търсене на заподозрени в тежки престъпления, въпреки че прагът за това какво представлява „сериозно“ престъпление понастоящем не е определен;
Частична забрана за предсказуем полицейски контрол, включително предвиждания относно вероятността от извършване на престъпление въз основа на „личностни черти или характеристики“, но не и по-голямата част от предсказуемите полицейски системи;
Пълна забрана на системите за разпознаване на емоции, но само на работни места и в образователни среди. Това нелогично пропуска най-вредните употреби от всички: тези в полицейски и граничен и миграционен контекст;
Предполагаема забрана на системите за биометрична категоризация, въпреки че все още не е ясно дали тази забрана ще има смисъл или не;
Ограничени предпазни мерки, основани на права, включително задължителна оценка на въздействието върху основните права и известно ниво на обществена прозрачност по отношение на това кои високорискови системи за изкуствен интелект се използват в Европа;
Много широки вратички в общото ниво на защита, включително широка свобода на преценка на разработчиците на AI да решат, че техните системи не са „високорискови“.