ChatGPT продължава да халюцинира и създателят му не може да го спре
В ЕС GDPR изисква информацията за лицата да е точна и те да имат пълен достъп до съхраняваната информация, както и информация за източника. Изненадващо обаче OpenAI открито признава, че не е в състояние да коригира неправилна информация в ChatGPT. Освен това компанията не може да каже откъде идват данните или какви данни ChatGPT съхранява за отделни хора. Компанията е наясно с този проблем, но изглежда не се интересува от него. Вместо това OpenAI просто твърди, че „фактическата точност в големите езикови модели остава област на активно изследване“. Затова неправителствената организация за защита на неприкосновеността на личния живот NOYB подава жалба срещу OpenAI в австрийския надзорен оран за защита на данните(DSB).
Стартирането на ChatGPT през ноември 2022 г. предизвика безпрецедентен AI hype, пише в сайта на NOYB. Хората започнаха да използват чатбота за всякакви цели, включително изследователски задачи. Проблемът е, че според самия OpenAI, приложението генерира само „отговори на потребителски заявки, като предвижда следващите най-вероятни думи, които могат да се появят в отговор на всяка подкана“. С други думи: Въпреки че компанията разполага с обширни данни за обучение, в момента няма начин да се гарантира, че ChatGPT действително показва на потребителите вярна информация. Напротив, известно е, че генеративните AI инструменти редовно „халюцинират“, което означава, че те просто измислят отговори.
Въпреки че неточната информация може да бъде допустима, когато ученик използва ChatGPT, за да му помогне с домашното, това е неприемливо, когато става въпрос за информация за отделни лица. От 1995 г. законодателството на ЕС изисква личните данни да са точни. Понастоящем това е заложено в член 5 от GDPR. Физическите лица също имат право на коригиране съгласно член 16 от GDPR, ако данните са неточни и могат да поискат невярната информация да бъде изтрита. В допълнение, съгласно „правото на достъп“ в член 15, компаниите трябва да могат да покажат какви данни притежават за физически лица и какви са източниците им.
Маартье де Грааф, адвокат по защита на данните в NOYB: „Измислянето на невярна информация е доста проблематично само по себе си. Но когато става въпрос за невярна информация за отделни лица, може да има сериозни последствия. Ясно е, че в момента компаниите не могат да накарат чатботове като ChatGPT да спазват законодателството на ЕС, когато обработват данни за физически лица. Ако една система не може да даде точни и прозрачни резултати, тя не може да се използва за генериране на данни за лица. Технологията трябва да следва законовите изисквания, а не обратното.“
Това е до голяма степен структурен проблем. Според скорошен доклад на New York Times, „чатботовете измислят информация най-малко 3 % of the time – и достигат до 27 %“. За да илюстрираме този проблем, можем да разгледаме жалбоподателя (публична личност) в нашия случай срещу OpenAI. На въпрос за рождения му ден ChatGPT многократно предоставя невярна информация, вместо да каже на потребителите, че няма необходимите данни.
Въпреки факта, че датата на раждане на жалбоподателя, предоставена от ChatGPT, е невярна, OpenAI отказа искането му за коригиране или изтриване на данните с аргумента, че не е възможно да се коригират данните. OpenAI казва, че може да филтрира или блокира данни за определени подкани (като името на жалбоподателя), but not without preventing ChatGPT from filtering all information about the complainant. OpenAI също не успя да отговори адекватно на искането за достъп на жалбоподателя. Въпреки че GDPR дава право на потребителите да искат от компаниите копие на всички лични данни, които се обработват за тях, OpenAI не успя да разкрие никаква информация за обработваните данни, техните източници или получатели.
Маартье де Грааф, адвокат по защита на данните в NOYB: „Задължението за изпълнение на исканията за достъп се отнася за всички компании. Ясно е, че е възможно да се водят записи за данните за обучение, които са били използвани, като поне има представа за източниците на информация. Изглежда, че с всяка „иновация“ друга група компании смята, че нейните продукти не трябва да отговарят на закона.“
След внезапното нарастване на популярността на ChatGPT, инструментите за генеративен AI бързо попаднаха под наблюдението на европейските органи за защита на данните. Наред с другото, италианският надзорен орган обърна внимание на неточността на чатбота, когато наложи временно ограничение върху обработката на данни през март 2023 г. Няколко седмици по-късно Европейският комитет по защита на данните (EDPB) създаде работна група за ChatGPT, за да координира националните усилия. Остава да видим докъде ще доведе това. Засега OpenAI изглежда дори не претендира, че може да се съобрази с GDPR на ЕС.
NOYB сега иска от DSB да разследва обработката на данни от OpenAI и мерките, предприети за гарантиране на точността на личните данни, обработвани в контекста на големите езикови модели на компанията. Освен това се очаква DSB да нареди на OpenAI да изпълни искането за достъп на жалбоподателя и да приведе обработката му в съответствие с GDPR. Не на последно място, NOYB изисква от органа да наложи глоба, за да гарантира бъдещо съответствие. Вероятно този случай ще бъде разгледан чрез европейско сътрудничество.
Noyb е акроним за „none of your business“.