McAfee uvádí na trh AI deepfake audio detektor - ale jak spolehlivý může být?
Pozměněný zvuk může signalizovat podvod a Deepfake Detector slibuje, že je najde. Zde jsou počítače, na kterých to funguje, a kolik vás to bude stát.
Hluboké padělky generované umělou inteligencí (AI) jsou po celém internetu a podporují vše od podvodů po politické dezinformace. Poskytovatel kybernetické bezpečnosti McAfee je nyní nejnovější entitou, která se pokusila o řešení - ale není to pro každého a nemusí to být vše.
Ve středu poskytovatel kybernetické bezpečnosti McAfee spustil svůj Deepfake Detector, nástroj poháněný umělou inteligencí, který skenuje videa a hledá známky zvuku generovaného umělou inteligencí. Podle vydání, jakmile se uživatel přihlásí, detektor automaticky sleduje, co se hraje na PC, a upozorní uživatele „během sekund“, pokud najde zvuk pozměněný umělou inteligencí - to vše bez použití softwaru třetích stran nebo potřeby manuální kontroly iniciované uživatelem.
Pozměněný zvuk by mohl naznačovat hluboce falešný podvod, včetně těch, které klonují hlasy blízkých, aby přiměli lidi platit falešné výkupné nebo se vydávali za veřejně známé osoby za účelem šíření nepravdivých informací. Vydání společnosti McAfee uvádí, že šíření umělé inteligence umožnilo kyberzločincům vytvářet „přesvědčivější, personalizované podvody generované umělou inteligencí ve velkém měřítku“.
„Ačkoli ne veškerý obsah AI je vytvořen se zlým úmyslem, schopnost poznat, zda je video skutečné nebo falešné, pomáhá spotřebitelům činit chytrá a dobře informovaná rozhodnutí,“ uvádí oznámení společnosti McAfee.
„Deepfake Detector analyzuje pouze zvuk; konkrétněji skenuje zvuk ve videích přehrávaných v prohlížeči a nekontroluje věci, které zahrnují správu digitálních práv, jako je obsah, který byste našli ve službě streamování videa, jako je Netflix nebo Disney+,“ řekl McAfee. řekl mluvčí ZDNET.
Detektor nesleduje žádné video nebo audio přehrávané mimo PC. "Náš výzkum hrozeb zjistil, že většina hluboce falešných videí používala zvuk zmanipulovaný umělou inteligencí nebo generovaný umělou inteligencí jako primární způsob, jak uvést diváky v omyl. Vizuální prvky videí jsou obvykle pevně sestříhané, autentické záběry, aby odvedly pozornost diváků od podezřelé zprávy," pokračoval mluvčí.
Společnost McAfee vytvořila Deepfake Detector ve spolupráci se společností Lenovo speciálně pro její počítače Copilot+, což znamená, že je k dispozici pouze na těchto zařízeních a nakonec bude stát nejméně 10 USD ročně.
Pomocí McAfee's Neural Processing Unit (NPU) spouštějí firemní modely detekce AI odvození neboli proces identifikace obsahu end-to-end zcela na PC. Tento druh umělé inteligence na zařízení posiluje soukromí uživatelů tím, že udržuje osobní data mimo cloud - přístup, který Apple zaujímá s Apple Intelligence, která se letos na podzim zavádí do zařízení.
Aby detektor fungoval, musí samozřejmě sledovat notebook uživatele - ale McAfee ujišťuje, že to nenaruší soukromí. „McAfee žádným způsobem neshromažďuje ani nenahrává zvuk uživatele a uživatel má vždy kontrolu a může detekci zvuku zapnout nebo vypnout podle potřeby,“ vysvětlila společnost ve zprávě.
McAfee také vysvětlil, že výhody spuštění Deepfake Detector na zařízení zahrnují vyšší rychlost zpracování a delší výdrž baterie.
Ale opravdu funguje detekce zvuku AI?
"Už se nemusíte divit, je to skutečný dárek pro celebrity, je tato investiční nabídka legitimní, řekl tento politik skutečně tato slova?" řekl Roma Majumder, senior viceprezident pro produkt společnosti McAfee, ve vydání.
To je vysoká očekávání. Umístění tohoto druhu technologie - jakkoli rané - přímo do zařízení, lépe připraví spotřebitele na budoucnost plnou obsahu generovaného umělou inteligencí. Jak však zjistilo vlastní zpravodajství ZDNET, přesnost a účinnost detekční technologie byly nespolehlivé, zejména s ohledem na tempo, jakým se generativní umělá inteligence vyvíjí.
„Tato technologie využívá model vyškolený na téměř 200 000 vzorcích a poskytuje spotřebitelům pokročilou detekci AI s 96% přesností,“ vysvětlil mluvčí McAfee detektor.
Společně s Deepfake Detector vydala společnost McAfee také Smart AI Hub, vzdělávací zdroj kybernetické bezpečnosti pro spotřebitele, jehož cílem je „budovat povědomí o deepfake a podvodech řízených umělou inteligencí“. Uživatelé mohou odeslat podezřele vypadající videa do centra, kde je společnost McAfee analyzuje. Společnost říká, že plánuje sdílet výsledné poznatky jako zdroj s veřejností.
Deepfake Detector je dnes k dispozici v angličtině pro všechny nové Počítače Lenovo Copilot+ objednané z webu Lenovo a vybraných prodejců v USA, Austrálii a Spojeném království . Jakmile si zákazník zakoupí počítač, může detektor používat zdarma po dobu 30 dnů, poté cena začíná na 10 USD za první rok.
Tato funkce bude spuštěna do dalších zemí později v tomto roce.