Националният орган за защита на данните приветства създаването на специален регистър за държавните организации
Иновации като интелигентни чатботове и лоша представа за съществуващите алгоритми в момента представляват най-значимите алгоритмични рискове в Нидерландия. Това става ясно от първия Доклад за рисковете от алгоритми в Нидерландия, публикуван от новата дирекция за координация на алгоритми към нидерландския орган за защита на данните (AP).
За да получат по-добър контрол върху алгоритмите и изкуствения интелект (AI), както правителственият, така и бизнес секторът трябва да направят значителни крачки. Две предизвикателства се събират през 2023 г. Първо, бързото интегриране на иновациите на AI в обществото, като интелигентни чатботове, въвежда нови възможности, но също така и нови рискове.
Второ, всички значими публични и частни институции в Нидерландия са натоварени със задачата да разберат използването на високорискови алгоритми – тези със значително въздействие върху живота на хората. В очакване на предстоящото европейско законодателство и като се използва това като отправна точка, конкретни действия от правителството и индустрията за увеличаване на контрола вече са желателни и осъществими.
Председателят на AP Алейд Волфсен заявява: „Алгоритмите и AI могат да бъдат невероятно полезни, но те също носят рискове, като риск от дискриминация, несправедливи резултати, измама и липса на прозрачност и обяснимост. За да се осигурят ползите, тези рискове трябва да бъдат ефективно управлявани.“
„Нараства осъзнаването на необходимостта от управление на алгоритмичните рискове, но много правителства и компании все още търсят правилния подход. Следователно ясните разпоредби и стандарти сега са от решаващо значение. … Организациите могат да предприемат стъпка напред чрез разполагане на повече персонал и инвестиране в образование за надзор на алгоритмите.“
За да се постигне контрол върху алгоритмите и AI, цялостният надзор върху това как те се използват от публични субекти и частни организации е от решаващо значение. Затова AP приветства създаването на регистър за държавните организации. Изискването за регистрация обаче следва да бъде установено по пропорционален начин, така че фокусът да е върху ефективното идентифициране и управление на високорискови алгоритми.
AP препоръчва привеждане в съответствие с очакваната класификация на високорисковите системи съгласно предстоящото европейско законодателство, което в момента е в процес на преговори. AP призовава правителството да предостави на обществените организации едногодишен преходен период към задължителна регистрация на използването на високорискови алгоритми.
Освен това AP предупреждава да не се използват най-новите иновации на AI по неконтролиран начин. Новите AI приложения са в светлината на прожекторите и е силно изкушението да експериментирате и да изследвате възможни иновации и печалби в ефективността. Възможните случаи на употреба включват оценки на служители, откриване на измами, оценки на клиенти за покупки или заеми и оценки на пациенти.
Въпреки това, безопасно разполагане без риск от нарушаване на основните права и обществени ценности е възможно само ако рисковете се управляват адекватно. Дотогава е разумно организациите да бъдат внимателни. Следователно, преди прилагането е важно да се оценят цялостно не само ползите, но и рисковете.
Докладът за алгоритмични рискове е първият изчерпателен и периодичен преглед на развитието, рисковете и предизвикателствата, свързани с използването на алгоритми и AI. Целта е да се създаде всеобхватна гледна точка на риска, която може да бъде включена в политическите инициативи, данните и изискванията за докладване, стратегиите и оценките на риска на отделните (секторни) надзорни органи и тяхната програма за работа и функцията за управление на риска на отделните организации.
Сега AP ще публикува доклад на всеки шест месеца, предоставяйки представа за последните развития, текущите рискове и съответните предизвикателства.
От началото на 2023 г. AP е координиращият орган за сигнализиране на риска, съвети и сътрудничество в надзора на алгоритми. Нидерландия възнамерява да поеме международна водеща роля в това отношение. През идните години глобалните усилия ще продължат да стандартизират и координират регулациите и надзора на алгоритмите и AI на форуми като G7, OECD, ЮНЕСКО, Съвета на Европа и Европейския съюз. Периодичните отчети за алгоритмичните рискове са основен инструмент в този надзорен подход.