UODO: имаме съмнения относно системния подход на OpenAI към европейските правила
Полският надзорен орган за защита на данните (UODO) съобщи на 20 септември, че разглежда жалба относно ChatGPT.
Жалбоподателят обвинява създателя на този инструмент – OpenAI, че обработва данни по незаконен и ненадежден начин, а правилата, по които това се прави, са непрозрачни.
Производството със сигурност ще бъде трудно, тъй като засяга компания, намираща се извън Европейския съюз, а самият ChatGPT е нов инструмент, използващ генеративен изкуствен интелект, пише в сайта на UODO.
„Случаят се отнася до нарушаване на много разпоредби за защита на личните данни, така че ще поискаме от Open AI да отговори на редица въпроси, за да проведе задълбочено административното производство“ – казва Ян Новак, председател на UODO.
Той уверява, че Службата се отнася много сериозно към въпроса. Той допълва, че това не са първите съмнения относно съответствието на работата на ChatGPT с европейските принципи за защита на личните данни и поверителност.
„Европейският комитет по защита на данните създаде специална работна група за OpenAI“ – отбелязва Ян Новак.
Жалбоподателят се е обърнал към UODO, след като исканията му, свързани с упражняване на правата му по GDPR, не са удовлетворени от OpenAI.
Както се оказва, ChatGPT, в отговор на неговото запитване, генерира невярна информация за жалбоподателя. Искането за коригирането й не е изпълнено от OpenAI, въпреки че всеки администратор е длъжен да обработва точни данни.
Жалбоподателят също не успя да разбере какви данни за него обработва CharGPT. Но има и още – подадена е и жалба срещу дружеството за нарушение на чл. 12 и чл. 5 раздел 1 буква „a“ от GDPR в отговора на компанията.
В резултат на искане получава уклончиви, подвеждащи и вътрешно противоречиви отговори. И това подхранва притесненията относно законността, както и прозрачност на обработката на лични данни от разработчика на този инструмент.
Жалбоподателят посочва липсата на прозрачност в правилата за обработка на данните от компанията, което се потвърждава както в кореспонденцията с компанията, така и от нейната политика за поверителност.
В жалбата до надзорния орган се посочва още, че дружеството не е изпълнило задължението си за предоставяне на информация към жалбоподателя. Данните на лицето са получени през 2021 г. Според жалбоподателя задължението за информиране трябва да бъде изпълнено още на етапа на обработка на получените данни за целите на обучението на езикови модели с изкуствен интелект.
Компанията не е информирала жалбоподателя за източника на данните за него или за получателите или категориите получатели на тези данни.
Жалбоподателят настоява UODO не само да задължи OpenAI да зачита права съгласно GDPR, но и да провери съответствието на модела за обработка на лични данни на OpenAI в рамките на ChatGPT с разпоредбите за защита на личните данни.
Якуб Грошковски, заместник-председател на UODO, посочва, че „технологията за изкуствен интелект, в случая т.нар. голям моделен език (LLM), навлезе в етапа на комерсиална и широко разпространена употреба.“ Според него няма съмнение, че това е пробивна технология и преломен момент – Разработването на нови технологии трябва да зачита правата на физическите лица, съгласно, inter alia, GDPR. Задачата на европейските органи за защита на личните данни е да защитават гражданите на Европейския съюз от негативните ефекти на технологиите за обработка на информация, подчертава Якуб Грошковски.
Той добавя, че повдигнатите в жалбата твърдения пораждат съмнения относно системния подход на OpenAI към европейските правила за защита на личните данни. Следователно UODO ще изясни тези съмнения, по-специално на фона на основния принцип за поверителност още на етапа на проектирането, съдържащ се в GDPR.