Норвежкият орган по защита на данните е сезиран заради измислена от чатбота история
Неправителствената организация за защита на неприкосновеността на личния живот (NOYB) подаде жалба до норвежката Datatilsynet. Като съзнателно позволява на своя AI модел да създава клеветнически резултати за потребителите, OpenAI нарушава принципа за точност на данните съгласно член 5, параграф 1, буква „г“ от GDPR. NOYB иска Datatilsynet да нареди на OpenAI да изтрие клеветите и да прецизира своя модел, за да премахне неточните резултати. NOYB предлага надзорният орган да наложи административна глоба, за да предотврати подобни нарушения в бъдеще.
NOYB пише, че норвежкият потребител Арве Ялмар Холмен поискал да разбере дали ChatGPT има някаква информация за него и се сблъскал с измислена история на ужасите: ChatGPT го представя като осъден престъпник, който е убил две от децата си и се е опитал да убие третия си син. Още по лошото е, че фалшивата история включва реални елементи от личния му живот. Сред тях са действителният брой и пол на децата му и името на родния му град. Освен това ChatGPT обявява, че потребителят е осъден на 21 години затвор. Като се има предвид комбинацията от ясно идентифицирани лични данни и фалшива информация, това без съмнение е в нарушение на GDPR. Съгласно чл. 5, пар. 1, б. „г“ дружествата трябва да гарантират, че личните данни, които предоставят за физически лица, са точни.
Йоаким Сьодерберг, адвокат по защита на данните в NOYB, е цитиран да казва, че GDPR. е ясен. Личните данни трябва да са точни. И ако не са, потребителите имат право да поискат те да бъдат променени, за да отразяват истината. Показването на потребителите на ChatGPT на малък отказ от отговорност, че чатботът може да прави грешки, очевидно не е достатъчно. Не можете просто да разпространявате невярна информация и накрая да добавите малък отказ от отговорност, който казва, че всичко, което сте казали, може просто да не е вярно..”
За съжаление също така изглежда, че OpenAI нито се интересува, нито е способен да коригира сериозно невярна информация в ChatGPT NOYB подаде първата си жалба, свързана с халюцинациите, през април 2024 г. Тогава поискахме да коригираме или изтрием неправилната дата на раждане на публична личност, пише в сайта на Европейския център за цифрови права. OpenAI просто заяви, че не може да коригира данните. Вместо това, той може да „блокира“ данни само при определени подкани, но невярната информация все още остава в системата. Докато нанесените щети може да са по-ограничени, ако не се споделят фалшиви лични данни, GDPR се прилага както за вътрешните данни, така и за споделените данни. В допълнение, компанията се опитва да заобиколи задълженията си за точност на данните, като показва на потребителите на ChatGPT отказ от отговорност, че инструментът „може да допусне грешки“ и че те трябва да „проверяват важна информация“. Въпреки това не можете да заобиколите законовото задължение да гарантирате точността на личните данни, които обработвате, чрез отказ от отговорност.
След инцидента с Арве Ялмар Холмен OpenAI актуализира своя модел. ChatGPT вече също търси в интернет информация за хора, когато бъде попитан кои са те. За Арве Ялмар Холмен това за щастие означава, че ChatGPT е спрял да лъже, че той е убиец. Въпреки това неправилните данни може да останат част от набора от данни на LLM. По подразбиране ChatGPT връща потребителски данни обратно в системата за целите на обучението. Това означава, че няма начин индивидът да бъде абсолютно сигурен, че този изход може да бъде напълно изтрит според текущото състояние на познанията за AI, освен ако целият модел на AI не бъде преобучен. Удобно, OpenAI също не отговаря на искания за упражняване на правото на достъп съгласно член 15 от GDPR, което прави невъзможно потребителите да се уверят какво се обработва във вътрешните системи. Разбираемо е, че този факт все още предизвиква притеснение и страх у жалбоподателя.
NOYB е акроним за „none of your business“.