Генеративните AI системи като ChatGPT трябва да разкрият, че съдържанието е генерирано от AI
Вчера Европейският парламент прие преговорната си позиция по Законодателния акт за изкуствен интелект (AI) с 499 гласа „за“, 28 „против“ и 93 „въздържал се“ преди преговорите с държавите-членки на ЕС за окончателния вид на закона. Правилата ще гарантират, че AI, разработен и използван в Европа, е напълно в съответствие с правата и ценностите на ЕС, включително човешки надзор, безопасност, поверителност, прозрачност, недискриминация и социално и екологично благополучие.
Правилата следват основан на риска подход и установяват задължения за доставчиците и тези, които внедряват AI системи в зависимост от нивото на риск, което AI може да генерира. Поради това ще бъдат забранени AI системи с неприемливо ниво на риск за безопасността на хората, като например тези, използвани за социално оценяване (класифициране на хора въз основа на тяхното социално поведение или лични характеристики). Евродепутатите разшириха списъка, за да включват забрани за натрапчиви и дискриминационни употреби на AI, като например системи за дистанционна биометрична идентификация „в реално време“ в обществено достъпни пространства и системи за биометрична категоризация, използващи чувствителни характеристики (напр. пол, раса, етническа принадлежност, гражданство, религия, политическа ориентация).
Евродепутатите гарантират, че класификацията на високорисковите приложения вече ще включва системи с изкуствен интелект, които причиняват значителна вреда на здравето, безопасността, основните права или околната среда на хората. Системите с изкуствен интелект, използвани за влияние върху гласоподавателите и резултатите от изборите, както и в системи за препоръчване, използвани от платформите на социалните медии (с над 45 милиона потребители), бяха добавени към списъка с висок риск.
Доставчиците на базови модели – ново и бързо развиващо се развитие в областта на AI – ще трябва да оценят и смекчат възможните рискове (за здравето, безопасността, основните права, околната среда, демокрацията и върховенството на закона) и да регистрират своите модели в База данни на ЕС преди пускането им на пазара на ЕС. Генеративните AI системи, базирани на такива модели, като ChatGPT, ще трябва да отговарят на изискванията за прозрачност (разкривайки, че съдържанието е генерирано от AI, като също така помагат да се разграничат така наречените дълбоко фалшиви изображения от истински) и да гарантират предпазни мерки срещу генериране на незаконно съдържание. Подробни резюмета на защитените с авторски права данни, използвани за тяхното обучение, също трябва да бъдат публично достъпни.
За да стимулират иновациите в AI и да подкрепят МСП, членовете на ЕП добавиха изключения за изследователски дейности и компоненти на AI, предоставени с лицензи за отворен код.
Започват преговорите със Съвета за окончателния вид на закона.
Digitaleurope публикува шест препоръки към текста, сред които е необходимостта от хармонизирани стандарти към момента на влизане в сила на Закона за изкуствения интелект за осигуряване на яснота на компаниите по отношение на техните точни задължения и стратегии за прилагане.