Ofcom: Трябва да дадем на всяка компания, която разследваме, пълна възможност да направи изявления по нашия случай. Ако въз основа на доказателствата преценим, че компанията не е изпълнила законовите си задължения, ще издадем предварително решение, в което ще изложим нашите становища и доказателствата, на които се позоваваме. След това компанията ще има възможност да отговори изцяло на нашите констатации, както се изисква от закона, преди да вземем окончателното си решение
Британската Служба на комисаря по информацията (ICO) съобщи, че започва официални разследвания срещу X Internet Unlimited Company (XIUC) и X.AI LLC (X.AI), обхващащи обработката на лични данни във връзка със системата за изкуствен интелект Grok и потенциала ѝ за създаване на вредно неприлично изображение и видео съдържание.
В сайна на надзорния орган пише, че стъпката е предприета след съобщения, че Grok е бил използван за генериране на неприлични изображения на лица, включително деца, без съгласието им. Съобщаваното създаване и разпространение на такова съдържание поражда сериозни опасения съгласно законодателството на Обединеното кралство за защита на данните и представлява риск от значителна потенциална вреда за обществеността.
Тези опасения са свързани с това дали личните данни са били обработвани законосъобразно, справедливо и прозрачно, и дали в дизайна и внедряването на Grok са били вградени подходящи предпазни мерки за предотвратяване на генерирането на вредни манипулирани изображения с помощта на лични данни. Когато тези предпазни мерки се провалят, лицата губят контрол над личните си данни по начини, които ги излагат на сериозна вреда. Разглеждането на тези рискове е от основно значение за ролята на ICO в защитата на правата на хората и търсенето на отговорност от организациите при проектирането и внедряването на технологии с изкуствен интелект.
Тези действия са след предишно публично изявление от 7 януари, в което ICO потвърди, че се е свързал с XIUC и X.AI, за да поиска спешна информация относно тези доклади.
Уилям Малкълм, изпълнителен директор „Регулаторен риск и иновации“ в ICO, заявява: „Докладите за Grok повдигат дълбоко тревожни въпроси за това как личните данни на хората са били използвани за генериране на интимни или сексуализирани изображения без тяхно знание или съгласие и дали са били въведени необходимите предпазни мерки, за да се предотврати това. Загубата на контрол върху личните данни по този начин може да причини незабавна и значителна вреда. Това е особено вярно, когато става въпрос за деца.
Нашата роля е да се справим с проблемите, свързани със защитата на данните, които са в основата на това, като същевременно признаваме, че други организации също имат важни отговорности. Работим в тясно сътрудничество с Ofcom и международните регулаторни органи, за да гарантираме, че ролите ни са съгласувани и че безопасността и поверителността на хората са защитени. Ще продължим да работим в партньорство като част от координираните ни усилия за изграждане на доверие в цифровите услуги в Обединеното кралство.
Нашето разследване ще оцени дали XIUC и X.AI са спазили закона за защита на данните при разработването и внедряването на услугите Grok, включително предпазните мерки, въведени за защита на правата на хората върху данните. Когато установим, че задълженията не са изпълнени, ще предприемем действия за защита на обществеността.“
Няма да предоставяме допълнителни коментари, докато разследването ни продължава. Ofcom днес също има изявление.
ICO е независимият регулаторен орган на Обединеното кралство за защита на данните. Нашата роля е да защитаваме правата на информация в обществен интерес и да защитаваме личните данни на физическите лица. Като регулатор, отговорен за гарантирането, че организациите обработват лични данни законосъобразно, ICO е в уникална позиция да действа, когато опасенията попадат изцяло в обхвата на закона за защита на данните. Това включва проверка на това как личните данни може да са били използвани за генериране на синтетично или манипулирано съдържание и оценка на това дали правата на физическите лица са били нарушени.
Администраторите, разработващи или внедряващи системи с изкуствен интелект, които обработват лични данни, трябва да спазват законодателството за защита на данните. Това включва осигуряване на:
- личните данни се обработват законосъобразно, добросъвестно и прозрачно;
- правата на физическите лица за защита на данните могат да бъдат упражнявани ефективно;
- рисковете за хората, особено за децата и уязвимите групи, са идентифицирани и смекчени; и
- Високорисковата обработка, включително създаването или използването на синтетични или манипулирани изображения, включващи реални лица, е предмет на подходящи предпазни мерки.
Съгласно GDPR и Закона за защита на данните от 2018 г. на Обединеното кралство, ICO може да налага глоби до 17,5 милиона британски лири или 4% от годишния световен оборот на организацията, което от двете е по-високо.
ICO работи в тясно сътрудничество с Ofcom, регулатора за онлайн безопасност в Обединеното кралство, и други цифрови регулатори чрез Форума за сътрудничество в областта на цифровото регулиране (DRCF), за да гарантира, че цифровите платформи пазят хората в безопасност и че онлайн услугите са проектирани с оглед както на поверителността, така и на безопасността.
По време на това разследване, ICO ще оцени спазването от страна на XIUC и X.AI на законодателството за защита на данните на Обединеното кралство по отношение на обработката, извършвана от системата Grok AI. Стъпките, предприети от ICO, ще включват:
- събиране на доказателства от XIUC и X.AI;
- анализ на правните основания на организациите, избора на технически дизайн и предпазните мерки, прилагани към модела Grok и неговото разработване и внедряване;
- да се оцени как личните данни на хората са били използвани за генериране на интимни или сексуализирани изображения с помощта на Grok;
- осъществяване на връзка с Ofcom и други регулаторни органи, когато е уместно, за да се осигури координиран подход; и
- взаимодействие със съответните международни органи в съответствие с нашите законови отговорности за сътрудничество.
ICO не е стигнал до становище дали има достатъчно доказателства за нарушение на закона за защита на данните от X.AI или XIUC. Ако установим, че има достатъчно доказателства за такова нарушение, ще разгледаме всички получени възражения, преди да вземем окончателно решение дали е нарушен законът за защита на данните и какви действия, ако има такива, са подходящи, пише в сайта на надзорния орган.