Агенцията за киберсигурност идентифицира пет ключови нужди от изследвания
Агенцията на Европейския съюз за киберсигурност (ENISA) публикува 4 доклада за най-мащабните предизвикателства в областта на изкуствения интелект (AI).
Докладите са от конференцията AI Cybersecurity на 7 юни. Тя имаше за цел да предостави платформа за споделяне на опит и обсъждане на предизвикателствата и възможностите, както и проекта за регламент на ЕС относно AI.
Първият доклад дава рамка за добри практики за киберсигурност за AI.
Той дава напътствия на националните органи за киберсигурност (NCA) и AI общността, за да се осигурят AI системи, операции и процеси с AI като използват съществуващите знания и най-добри практики и идентифицират липсващи елементи.
Рамката се състои от три слоя (основи за киберсигурност, специфична за AI киберсигурност и специфична за сектора киберсигурност за AI) и има за цел да осигури поетапен подход за следване на добри практики за киберсигурност, за да се гарантира надеждността на системите за AI.
Вторият доклад е Киберсигурност и поверителност в AI – Медицинска образна диагностика, свързан с проблемите с поверителността като едно от най-важните предизвикателства, пред които е изправено обществото днес.
Третият доклад за прогнозиране на изискванията към електрическите мрежи позволява по-добра оценка на реалността, че изкуственият интелект носи свой собствен набор от заплахи, което следователно настоява за търсене на нови мерки за сигурност за противодействието им. И двата доклада очертават заплахите за киберсигурността и поверителността, както и уязвимостите, които могат да бъдат използвани във всеки случай на употреба. Анализът се фокусира върху свързаните с машинното обучение заплахи и уязвимости, като същевременно се вземат предвид по-широките съображения за AI. Фокусът на работата обаче е върху проблемите на поверителността, тъй като те са се превърнали в едно от най-важните предизвикателства, пред които е изправено обществото днес. Тъй като сигурността и поверителността са тясно свързани и двете са еднакво важни, трябва да се намери баланс, за да се изпълнят съответните изисквания. Докладът обаче разкрива, че усилията за оптимизиране на сигурността и поверителността често могат да дойдат за сметка на производителността на системата.
Четвъртият доклад е за изследвания на AI и киберсигурност – той идентифицира 5 ключови нужди за по-нататъшно изследвания, свързани с AI. Те включват разработването на инструменти за идентифициране на уязвимости в сигурността или разработването на стандартизирани рамки за оценка на поверителността.