Резултатите от проверката на надзорния орган не са окончателни, но той не е намерил адекватна оценка на рисковете за няколко милиона потребители, включително деца на възраст от 13 до 17 години
Службата на комисаря по информацията (ICO) издаде на Snap, Inc и Snap Group Limited (Snap) preliminary enforcement notice заради подозрения, че не са идентифицирани и оцени рисковете за поверителността, породени от генеративния AI чатбот My AI.
Предварителното известие определя стъпките, които комисарят може да изиска, а ако бъде прието окончателно известие за изпълнение, може да се наложи Snap да спре обработката на данни във връзка с „My AI“. Това означава да не предлага „My AI“ на потребители в Обединеното кралство, докато Snap извърши адекватна оценка на риска.
В съобщението на ICO пише, че Snap пуска функцията „My AI“ за абонатите на Snapchat+ в Обединеното кралство през февруари 2023 г., а за масовите потребители на Snapchat – през април 2023 г. Функцията за чатбот, задвижвана от GPT технологията на OpenAI, е първият пример за генеративен AI, вграден в основна платформа за съобщения в Обединеното кралство. Към май 2023 г. Snapchat има 21 милиона активни потребители месечно в Обединеното кралство.
Разследването на ICO установява, че оценката на риска преди стартирането на „My AI“, не оценява адекватно рисковете за защита на данните, породени от генеративната AI технология, особено за децата. Оценката на риска за защита на данните е особено важна в този контекст, който включва използването на иновативни технологии и обработката на лични данни на деца от 13 до 17 години, пише в съобщението.
Специално в текста се отбелязва, че констатациите на комисаря в известието са временни. На този етап не трябва да се прави заключение, че действително е имало нарушение на закона за защита на данните или че в крайна сметка ще бъде издадено известие за изпълнение. ICO ще разгледа внимателно всички изявления от Snap, преди да вземе окончателно решение.
Джон Едуардс, комисар по информацията, е цитиран да казва, че организациите трябва да вземат предвид рисковете, свързани с AI,, заедно с ползите.
ICO през юни тази година публикува напомняне на компаниите, разработващи или използващи генеративен AI, че трябва да обмислят своите задължения за защита на данните от самото начало. А още през април ICO сподели своите съвети към разработчиците и потребителите на генеративен AI относно проблемите, с които трябва да се съобразяват.
Надзорният орган уверява в публикацията, че ще продължи да проверява съответствието на продуктите и услугите, въведени на пазара.