Изкуственият интелект е определен като рисков за малолетни и емоционално крехки хора
Италианският надзорен орган за защита на личните данни (Garante per la protezione dei dati personali) спря „Replika“, стана известно на 3 февруари.
Задвижваният от изкуствен интелект чатбот, който генерира „виртуален приятел“ с помощта на текстов и видео интерфейс, засега няма да може да обработва лични данни на италиански потребители.
Garante наложи незабавно спиране на обработката на данни от американската компания, която разработва и управлява приложението.
В светлината на последните съобщения в пресата и тестовете, проведени от надзорния орган върху „Replika“, показват, че използването на приложението от непълнолетни представлява риск, най-вече защото им се предлагат отговори, които са абсолютно неподходящи за тяхната възраст.
Твърди се, че „виртуалният приятел“ е в състояние да подобри емоционалното състояние на потребителите и да им помогне да разберат мислите си и да овладеят безпокойството чрез управление на стреса, социализация и търсене на любов.
Тези характеристики водят до взаимодействие с настроението на човека и могат да доведат до повишени рискове за хора, които все още са в етап на съзряване или са в състояние на емоционална нестабилност.
Всъщност няма механизъм за проверка на възрастта: няма филтри за непълнолетни, няма блокиране на приложението, ако потребител декларира, че е под определена възраст. По време на създаването на профил платформата просто изисква потребителско име, имейл и пол.
И „отговорите“ на чатбота, често са в явно противоречие със засилените предпазни мерки, които трябва да бъдат осигурени за децата и уязвимите лица.
Няколко рецензии, публикувани в двата основни магазина за приложения съдържат коментари от потребители, които се оплакват от сексуално неподходящо съдържание.
„Replika“ е в нарушение на Регламента на ЕС относно защита на данните(GDPR): не отговаря на принципа за прозрачност и извършва неправомерно обработване на лични данни, тъй като изпълнението на договор не може да се използва като правно основание, като се има предвид, че децата не са в състояние да сключат валиден договор съгласно италианското законодателство.
Американският разработчик Luka Inc, освен че трябва да спре да обработва данните на италианските потребители, трябва да съобщи мерките, предприети за изпълнение на изискванията на Garante в рамките на 20 дни. В противен случай надзорният орган може да наложи санкция до 20 милиона евро или до 4% от общия годишен световен оборот на компанията.