Според Proposed settlement компанията е направила неверни твърдения относно степента, в която нейната система за проверка на сигурността, базирана на AI, може да открива оръжия в училища
Федералната комисия по търговия (FTC) изготви settlement order за Evolv Technologies, с която забранява на компанията да прави неподкрепени твърдения относно способността на продуктите си да откриват оръжия чрез използване на изкуствен интелект и също така да даде на училища опцията да анулират договорите си.
Самуел Левин, директор на Бюрото за защита на потребителите е цитиран да казва, че твърденията относно възможностите на технологиите, включително с AI, трябва да бъдат достоверни и това е особено важно, когато са свързани с безопасността на деца. Затова в случаите на неадекватни послания се намесва FTC.
FTC твърди, че базираната в Масачузетс Evolv рекламира без основание, че нейните скенери Evolv Express откриват всички оръжия и е направила подвеждащи твърдения, че използването на изкуствен интелект прави нейните системи по-точни, ефективни и рентабилни от традиционните металдетектори.
FTC пише, че тези скенери за сигурност се използват в хиляди училища и много други места, като спортни стадиони и болници. Училищните системи представляват половината от неговия бизнес, като Express scanners са разположени в над 800 училища в 40 щата. В своите маркетингови материали компанията рекламира използването на AI, като твърди, че нейните скенери са високотехнологична алтернатива на традиционните скенери за метал. При маркетинга на продуктите си в училищата компанията твърди, че продуктите й ще помогнат за справяне с проблема с оръжията в училищата.
FTC твърди, че Evolv е представила погрешно, че нейната система Evolv Express ще открие всички оръжия; игнорирайте безобидни лични вещи, без да изисква хората да ги извадят от джобовете или чантите си; откриват оръжия по-точно и по-бързо от металдетектори; намалява честотата на фалшиви аларми; и намалява разходите за труд със 70% в сравнение с металдетекторите чрез намаляване на нуждата от допълнителен персонал.
Според FTC Express scanners на Evolv не успяват в няколко случая да открият оръжия в училища, като същевременно маркират безобидни лични предмети, които обикновено се носят в училищата, като лаптопи, папки и бутилки с вода. Например, съобщава се, че експресните скенери на Evolv не са успели да открият 7-инчов нож, внесен в училище през октомври 2022 г., който е бил използван за намушкване на ученик. След това училищните служители увеличават настройките за чувствителност на системата, което води до 50% повече фалшиви аларми.
За да намали фалшивите положителни резултати, през 2023 г. Evolv въведе по-чувствителна настройка за потребителите на Express с цел откриване на повече ножове. Въпреки това, Evolv каза, че някои ножове ще бъдат пропуснати, ще се появят повече фалшиви аларми и може да се наложи допълнителен персонал за работата на машините. Той също така посъветва училищата да добавят транспортни ленти и други мерки за отклоняване на безвредни предмети на ръка, което прави системата по-скоро подобна на традиционните евтини метални детектори според жалбата.
Proposed Settlement Requirements – Evolv ще трябва да уведоми определени училища, че могат да изберат да анулират договори, подписани между 1 април 2022 г. и 30 юни 2023 г. Освен това предложената заповед също ще забрани на Evolv да прави каквито и да било погрешни твърдения относно способността на неговите продукти да откриват оръжия, да игнорират безвредни лични предмети и да игнорират безвредни лични предмети, без да изисква посетителите да изваждат такива предмети от джобове или чанти.
Компанията реагира с твърдението ,че опцията за анулиране ще бъде предоставена само на ограничена група клиенти, които съставляват приблизително 8% от общия брой клиенти.