Garante предупреждава за рисковете от възможна злоупотреба
Италианският надзорен орган за защита на личните данни (Garante per la protezione dei dati personali) предупреди за опасности при все по-често срещаното качване на кръвни анализи, рентгенови снимки и други медицински доклади в генеративни AI платформи за интерпретация и диагностика. Надзорният орган казва, че това е „тревожно явление“ както поради риска от загуба на контрол върху жизненоважни здравни данни, така и поради риска решения с изкуствен интелект, които не са специално проектирани да предоставят необходимата информация и не са медицински изделия след необходимите тестове и проверки, изисквани от отрасловите разпоредби, да предоставят невярна информация. Garante бие тревога и призовава потребителите на тези платформи внимателно да обмислят споделянето на здравни данни с доставчици на услуги за генеративен изкуствен интелект и разчитането на автоматично генерираните отговори от тези услуги. Отговорите винаги трябва да бъдат проверявани с медицински специалист, пише надзорният орган.
По отношение на първия аспект, по-специално, Garante обръща внимание на възможността да се прочетат политиките за поверителност, които операторите на платформи са длъжни да публикуват, за да се провери дали здравните данни, съдържащи се в клиничните тестове, качени онлайн с цел искане за интерпретация и/или диагноза, ще бъдат изтрити или ще бъдат запазени от доставчика на услугите с цел обучение на неговите алгоритми.
Много от най-известните услуги за генеративен изкуствен интелект всъщност позволяват на потребителите да решават съдбата на данните и документите, качени онлайн като част от използването на услугата.
Поради това Garante обръща внимание на важността, призната както от Европейския регламент относно изкуствения интелект, така и от Италианския национален здравен съвет, на винаги осигуряването на квалифицирана човешка намеса при обработката на здравни данни с помощта на системи с AI.
Човешката намеса е от съществено значение за предотвратяване на рискове, които биха могли пряко да повлияят на здравето на човек (cfr. art. 14 Regolamento IA e parere “I sistemi di intelligenza artificiale come strumento di supporto alla diagnostica”, Consiglio Superiore di Sanità, Sez. V, 9 novembre 2021).
„Supervisione umana qualificata“, наред с други неща, трябва да бъде гарантиран на всички етапи от жизнения цикъл на системата с AI: от разработването до обучението, през тестването и валидирането, преди тя да бъде пусната на пазара или използвана.
Garante вече беше предвидил този проблем в Decalogo за внедряване на национални здравни услуги чрез системи с AI, приет през октомври 2023 г. (doc. web n. 9938038), който също така подчертава допълнителни аспекти на защитата на личните данни, които също трябва да бъдат гарантирани при внедряването на такива системи, за да се подпомогне разбирането на диагностичните доклади: като например наличието на подходящо основание за законосъобразност; необходимата предварителна оценка на въздействието; и задължения за прозрачност и сигурност.
Накрая, Garante напомня на разработчиците на системи с AI и на здравните специалисти за рисковете, породени от феномена на масово събиране на лични данни от мрежата с цел обучение на генеративни модели на AI, както е подчертано в документа, публикуван през май 2024 г. относно web scraping (doc. web n.10020334).