Родителите са уверявани че съдържанието се модерира с „изкуствен интелект от световна класа“
Докато светът се е вторачил върху съдебния иск на FTC срещу TikTok, на друго приложение за деца не беше отделено медийно внимание, а неговите практики не са никак безобидни. NGL, акроним на Not Gonna Lie, привлече вниманието на Федералната търговска комисия (FTC) и Прокуратурата на Лос Анджелис заради открити множество нарушения на законодателството за защита на децата и юношите. Очаква се съдът да потвърди забраната на „NGL: ask me anything“ да се предлага на лица под 18-годишна възраст.
FTC и Окръжната прокуратура на Лос Анджелис откриват, че NGL – приложение за анонимни съобщения, се рекламира като подходящо за деца и тийнейджъри. Твърди се и че програмата му за модериране на съдържание с изкуствен интелект филтрира кибертормоза и други вредни съобщения. Оказва се, че ползвателите получават и фалшиви съобщения, които изглеждат като изпратени от истински хора, като потребителите са подмамвани да се регистрират за платен абонамент с лъжливото обещание, че това ще разкрие самоличността на анонимния изпращач на съобщения като „Би ли казал „да“, ако те поканя на среща?“.
„NGL пусна приложението си на пазара на деца и тийнейджъри, въпреки че знаеше, че ги излага на кибертормоз“, казва председателят на FTC Лина М. Хан. „Анонимността, осигурена от приложението, може да улесни ширещия се кибертормоз сред тийнейджърите, причинявайки неописуема вреда на нашите младежи“, казва окръжният прокурор на Лос Анджелис Джордж Гаскон. Не можем да толерираме подобно поведение, нито можем да позволим на компаниите да печелят за сметка на безопасността и благосъстоянието на нашите деца. Днешните обвинения изпращат ясно послание, че измамни практики и насочване към уязвими групи от населението няма да бъдат толерирани, казва Гаскон.
В сайта на FTC пише, че базираната в Калифорния NGL стартира през 2021 г. като услуга за анонимни съобщения. След като не успява да предизвика голям интерес към своето приложение, NGL през 2022 г. започна автоматично да изпраща на потребителите фалшиви компютърно генерирани съобщения, които изглеждат като писани от истински хора. Когато потребител публикува подкана за анонимни съобщения, той ще получи компютърно генерирани фалшиви съобщения като „are you straight?“ или „I know what you did“. Когато потребител получи отговор – независимо дали е от истински потребител или фалшиво съобщение – вижда реклама, насърчаваща го да закупи услугата NGL Pro, за да разбере самоличността на подателя. Според FTC потребителите, които са се регистрирали за услугата, която струва до $9,99 на седмица99 (и по-късно $6,99), не са получили името на подателя. Вместо това плащащите потребители получават само безполезни „подсказки“ като часа на изпращане на съобщението, дали подателят е имал устройство с Android или iPhone и общото местоположение на подателя. Тази тактика накара много потребители да се оплачат, на което мениджъри на NGL се изсмяха, отхвърляйки такива потребители като „негодници“, пише в сайта на FTC.
Според ведомствата компанията е била наясно, че много деца използват приложението и не е направила опит да провери възрастта на своите потребители, не е успяла да получи родителско съгласие за събиране и използване на лични данни на деца под 13 години, не е уважила искането на родителите да изтрият личните данни на децата си и съхранява данните на децата по-дълго от разумно необходимото за изпълнение на целта, за която са събрани.
В допълнение към забраната за маркетинг на приложението за деца и тийнейджъри под 18 години, се изисква собствениците да платят $4,5 милиона, които ще бъдат използвани за предоставяне на обезщетение на потребителите, и $500 000 санкция на Офиса на прокурора в Лос Анджелис. Съгласно предложената заповед, която трябва да бъде одобрена от федерален съд, преди да може да влезе в сила, NGL и нейните оператори трябва да изтрият цялата лична информация, която е свързана с потребителя, освен ако той посочи че е над 13 или има родителско съгласие за запазване на такива данни.