Vyhledávání na webu

FTC říká, že společnost AI Evolv „falešně propagovala“ své bezpečnostní skenery

Skenery Evolv nefungují tak dobře, jak to vedlo školy k domněnce. Zde je uvedeno, co to znamená pro bezpečnost dětí.

Společnosti zabývající se umělou inteligencí (AI) nejsou cizí ve zkrášlování schopností svých produktů - a pokud jde o veřejnou bezpečnost, následky mohou být smrtelné.

Společnost Evolv Technologies tvrdila, že její bezpečnostní skenery s umělou inteligencí zlepší veřejnou bezpečnost detekcí zbraní na různých místech, včetně škol. Federální obchodní komise (FTC) však zjistila opak.

Minulý týden FTC navrhla vypořádání s Evolv Technologies kvůli tomu, jak společnost přeprodala schopnost svého bezpečnostního systému poháněného umělou inteligencí detekovat zbraně a „ignorovat neškodné osobní předměty“ - zejména ve školních prostředích. Bezdotykové systémy Evolv skenují lidi při vstupu do prostoru bez nutnosti ručního prohledávání tašek nebo kapes.

Předsedkyně FTC Lina Khan v příspěvku X uvedla, že Evolv „falešně propagoval“ své systémy detekce zbraní AI školním čtvrtím, které společnosti zaplatily „miliony“ za používání technologie ve školách. Všimla si, že skenery spustily alarmy na neškodné předměty, jako jsou lahve s vodou a pořadače, a přitom nedokázaly identifikovat zbraně.

Podle The Intercept byl v červnu 2022 bývalý generální ředitel Evolv Peter George na investorské konferenci dotázán, „zda by společnost zastavila tragickou střelbu ve škole v Uvalde v Texasu, kde bylo zabito 19 studentů a dva učitelé“.

George odpověděl: "Až někdo projde naším systémem a bude mít ukrytou zbraň nebo otevřenou zbraň, najdeme ji, tečka."

Navzdory Georgesově deklaraci zaznamenaly desítky školních obvodů, které utratily miliony za technologii detekce zbraní, případy, kdy systémy Evolvs nedetekovaly zbraně, podle Interceptu, což mělo za následek právní a regulační kontrolu. V roce 2023 oznámilo pět právnických firem vyšetřování technologií Evolv kvůli možnému porušení zákona o cenných papírech a tvrdilo, že „Evolv uvedl investory v omyl ohledně schopností svých detektorů zbraní“.

Akcionáři Evolv navíc podali na společnost hromadnou žalobu s argumentem, že marketingová tvrzení společnosti nadhodnocují účinnost technologie.

Problémy tím nekončí. Navzdory těmto právním, regulačním a vnitřním otřesům zahájil starosta New Yorku Eric Adams tříměsíční pilotní program, který měl nasadit skenery umělé inteligence v newyorském metru. Stejné skenery byly dříve nasazeny v Jacobi Medical Center, kde údajně vyvolaly obrovské množství falešně pozitivních výsledků, podle zpravodajského serveru Hell Gate se sídlem v New Yorku.

Je běžné, že se systémy umělé inteligence časem zlepšují, protože modely se mohou stát přesnějšími, čím více dat nashromáždí. Pro Evolv tomu tak nebylo. Jak pilotní program postupoval, skenery umělé inteligence „nebyly o nic přesnější - nebyl jediný měsíc, kdy by poměr alarmu k počtu návštěvníků klesl pod 25 procent,“ uvedl Hell Gate.

Další zprávy zjistily, že skenery měly „falešnou pozitivitu 95 procent“ a že pouze 0,45 procenta výstrah vyvolali lidé se zbraněmi, kteří nebyli donucovacími orgány.

Co to znamená pro bezpečnost školy

Ve středu společnost Evolv Technologies dosáhla dohody s FTC, aby vyřešila dotaz ohledně svých předchozích marketingových nároků. Podle příspěvku na blogu FTCblog by navrhovaný příkaz k urovnání zabránil společnosti Evolv „vytvářet nepodložená tvrzení o schopnosti jejích produktů detekovat zbraně pomocí umělé inteligence“. To by také vyžadovalo, aby Evolv „upozornil určité zákazníky škol K-12, že se mohou rozhodnout zrušit smlouvy podepsané mezi 1. dubnem 2022 a 30. červnem 2023“, což může být víceleté.

Samuel Levine, ředitel Úřadu pro ochranu spotřebitelů, na blogu uvádí, že „FTC jasně řekla, že tvrzení o technologii - včetně umělé inteligence - je třeba podložit, a to je zvláště důležité, když se tato tvrzení týkají bezpečnosti. dětí."

Mike Ellenbogen, dočasný prezident a generální ředitel společnosti Evolv Technology, v tiskové zprávě společnosti uvedl, že „dotaz FTC se týkal dřívějšího marketingového jazyka a nikoli schopnosti našeho systému přidávat hodnotu bezpečnostním operacím“. Společnost také poukázala na to, „že agentura nezpochybnila základní efektivitu technologie společnosti ani nepožadovala žádnou finanční úlevu“.

Navrhované dohody také zakazují společnosti Evolv předkládat nepravdivá tvrzení nebo nepravdivá prohlášení o:

  • „Schopnost jejích produktů detekovat zbraně, ignorovat neškodné osobní věci a ignorovat neškodné osobní věci, aniž by návštěvníci museli vytahovat jakékoli takové předměty z kapes nebo tašek“
  • „Přesnost jejích produktů při detekci zbraní a četnosti falešných poplachů, a to i ve srovnání s používáním tradičních detektorů kovů“
  • „Rychlost, jakou mohou být návštěvníci detekováni ve srovnání s použitím detektorů kovů“
  • "Mzdové náklady, včetně srovnání s používáním detektorů kovů; testování nebo výsledky jakéhokoli testování; a jakýkoli materiální aspekt jeho výkonu, včetně použití algoritmů, umělé inteligence nebo jiných automatizovaných systémů nebo nástrojů."

FTC v minulosti poznamenala, že produkty umělé inteligence se mohou jako řešení systémových problémů příliš slibovat, což je důsledkem humbuku AI. To může být obzvláště riskantní pro veřejnou bezpečnost, pokud se více měst, institucí a škol spoléhá na technologie, jako jsou skenery Evolv, jako na zabezpečení proti selhání.

Související články