На 14 септември 2026 г. Франсиско Перес Бес, зам.-председател на AEPD написа в блога й за това нарушение на сигурността на лични данни
Испанската агенция за защита на данните (AEPD) получи първото уведомление за нарушение на сигурността на лични данни, при което инцидентът е извършен от агент с изкуствен интелект, използващ известен езиков модел. На 14 септември 2026 г. Франсиско Перес Бес, зам.-председател на AEPD написа в блога й за това нарушение на сигурността на лични данни, ето цитати от него.
„Нападателят е инициирал сканиране за уязвимости на генерични файлове и е влязъл успешно в системата. След като е влязъл в системата, той е започнал автономно да търси уязвимости в приложението, които, след като бъдат открити, са му позволили да променя лични данни и да има достъп до фактури.
Преди да се направят каквито и да е заключения, следва да се отбележи, че наличната информация произлиза от уведомлението, подадено от засегнатата организация, и ще изисква допълнителен анализ. Освен това използването на специфичен модел на изкуствен интелект не означава, че моделът или инфраструктурата на неговия доставчик са били компрометирани, нито че инструментът е бил проектиран да извършва злонамерени дейности.
От гледна точка на защитата на данните обаче е важно да се отбележи, че трета страна би използвала агент с изкуствен интелект като инструмент за успешно свързване на различни фази на атаката.
Използването на изкуствен интелект в злонамерени дейности не е новост. Доказано е, че когато се прилагат към кибератака, тези възможности могат да улеснят автоматизирането на незаконни дейности. Всъщност, генеративните модели отдавна се използват за писане на фишинг съобщения, превод на измамни кампании, представяне за други лица, анализ на код и улесняване на търсенето на уязвимости.
Появата на агенти с изкуствен интелект обаче въвежда качествена промяна. Агентът може да получава цел, да планира междинни задачи, да използва инструменти, да изпълнява код, да се консултира с източници, да интерпретира резултати и да променя действията си автономно, въз основа на това, което открие.
Важно е да се помни, че изкуственият интелект не създава нови заплахи. Но той увеличава скоростта, мащаба и адаптивността на съществуващите злонамерени техники, намалявайки времето, необходимо за тяхното откриване и ограничаване.
Това е и едно от заключенията на ръководството Добри практики срещу офанзивния модел на изкуствен интелект, публикувано от Националния криптологичен център, документът предупреждава, че офанзивният изкуствен интелект се превръща в оперативна способност, интегрирана в реални кампании, и препоръчва засилване на основните контроли, ускоряване на управлението на уязвимостите, защита на самоличността, контрол на веригата за доставки и правилно управление на използването на агенти.“