Никое ведомство не можа да го спре, ако се споделя и коментира
Журналисти питат разни експерти какво правим, а те говорят за бъдещи европейски регламенти. Това видях днес по телевизора като реакция на съобщението на МС от вчера за манипулирано видео с лицето на премиера акад. Денков:
„Внимание! Разпространява се манипулирано видео с лицето на премиера акад. Денков
Манипулирано видео (или дълбока фалшификация – дийпфейк*) с лицето и гласа на премиера акад. Николай Денков се разпространява в социалната мрежа Facebook. То изглежда като обръщение към нацията и цели да събере неправомерно лични данни на потребителите като предпоставка за участие в инвестиционна схема. За да засили усещането за достоверност, фалшивото видео е представено като извадка от новинарска емисия.
Министър-председателят никога не е призовавал никого да предоставя свои лични данни по никакъв повод. Предупреждаваме гражданите по никакъв повод да не предоставят личните си данни в социалните мрежи, както и да сигнализират на ГДБОП при съмнения за киберпрестъпления на имейл report @cybercrime.bg или на телефон 0885 525 545.
Злоупотребата с образа на премиера е докладвана на МВР като киберпрестъпление.
Дийпфейк (от английски: deepfake – от думите „дълбок“ и „фалшив“) или дълбока фалшификация е технология, която използва изкуствен интелект, за да фалшифицира във видеоклип или аудиозапис изказвания на различни хора. Макар че създаването на фалшиво медийно съдържание не е ново явление, дълбоката фалшификация се използва за манипулиране или генериране на визуално съдържание, нерядко целящо измама, заблуда, или друга користна цел.“
През март Федералната комисия по търговия (FTC) публикува в блога си текста „Чатботове, дълбоки фалшификации и гласови клонинги: AI измама за продажба“:
Генеративният AI и синтетичните медии са разговорни термини, използвани за обозначаване на чатботове, разработени от големи езикови модели, и за технологии, които симулират човешка дейност, като софтуер, който създава дълбоки фалшиви видеоклипове и гласови клонинги. Вече съществуват доказателства, че измамниците могат да използват тези инструменти, за да генерират реалистично, но фалшиво съдържание бързо и евтино, като го разпространяват до големи групи или се насочват към определени общности или конкретни лица. Те могат да използват чатботове за генериране на фишинг имейли, фалшиви уебсайтове, фалшиви публикации, фалшиви профили и фалшиви потребителски отзиви или за подпомагане на създаването на зловреден софтуер, ransomware и атаки с бързо инжектиране. Те могат да използват дълбоки фалшификации и гласови клонинги, за да улеснят измами, изнудване и финансови измами. И това е много неизчерпателен списък“, пише в публикацията.
Защо я споменавам – вътре има линк към доклада на Комисията до Конгреса, в който има раздел Манипулирано съдържание, предназначено да подведе лица, включително deepfake видеоклипове и фалшиви рецензии.
Там е направен обзор на технологиите за откриване на фалшиво съдържание и удостоверяването на достоверно съдържание като противодействие на измамите.
Ето за всичко това трябваше да си говорим поне този месец, след като не го правим в останалата част от годината.