Proč je funkce detekce podvodných hovorů AI od Googlu zásadní změnou

Klíčové věci

Google představil funkci detekce podvodných hovorů pomocí umělé inteligence, která v reálném čase ochrání uživatele před telefonními podvody.
Tato funkce, poháněná Gemini Nano, upozorňuje uživatele na potenciální podvody během hovorů.
Obavy z ohrožení soukromí, zneužití a falešných poplachů mohou omezit přijetí funkce.

Nedávná konference Google I/O 2024 byla celá o AI - společnost hrdě řekla „AI“ 124 „krát během své hlavní přednášky (ano, čtete správně). Zatímco gigant Mountain View předvedl spoustu vylepšení Gemini - jeho rodina Modely umělé inteligence - jedna funkce nás zaujala pro svou užitečnost v reálném světě: detekce podvodných hovorů s umělou inteligencí.

Přiznejme si to: telefonické podvody jsou utrpením. Od otravných robotických hovorů po záludné imitátory vydávající se za technickou podporu nebo vaši banku, tyto podvody mohou oklamat i ty nejdůvtipnější uživatele. Nová funkce Google to chce změnit tím, že analyzuje hovory v reálném čase a dá vám upozornění, pokud se vám něco zdá podezřelé.

Ukázka Google na pódiu byla úžasná

Dave Burke, viceprezident Google pro inženýrství, ukázal, jak to funguje během I/O události (video s časovým razítkem níže). Na jevišti mu zavolal někdo, kdo předstíral, že je z banky, a požádal ho, aby pro jistotu přesunul své úspory na nový účet. Na Burkově telefonu se objevilo oznámení: „Pravděpodobně podvod: Banky vás nikdy nebudou chtít, abyste přesunuli své peníze, aby byly v bezpečí,“ s možností zavěsit. Burke dále vysvětlil, že tato funkce je poháněna Gemini Nano, která funguje na zařízení bez nutnosti připojení k internetu. Docela působivé, že?

Kdo by tedy měl z této technologie největší prospěch? No, skoro všichni!

Všichni: Detekce podvodů v reálném čase vám umožní být během hovorů opatrnější a vyhnout se podvodům.
Zranitelné skupiny obyvatel: Starší lidé a lidé méně obeznámení s technologiemi jsou hlavním cílem podvodníků. Tato ochrana AI může přidat další vrstvu zabezpečení.
Lidé náchylní k emocionální manipulaci: Podvodníci často používají strach a naléhavost k nátlaku na své oběti. Upozornění AI může narušit jejich taktiku, což vám dá šanci nadechnout se a vyhnout se tomu, abyste se stali kořistí.

Možné nevýhody a zneužití

Samozřejmě, že u každé nové technologie, která analyzuje konverzace, je soukromí velkým otazníkem. Zatímco Google říká, že vše zůstává na vašem zařízení, někteří odborníci se obávají potenciálních zranitelností:

Hacking: Přestože zpracování probíhá na zařízení, existují obavy, že by tuto funkci mohli zneužít určení hackeři nebo jednotlivci s fyzickým přístupem k telefonu.
Rizika pro vládu a sledování: Zastánci ochrany osobních údajů varují, že vládní agentury nebo sledovací společnosti by mohly zneužít takovou technologii k odposlechu soukromých konverzací.
Falešně pozitivní: Existuje také riziko, že legitimní hovory budou označeny jako podvodné, což způsobí zbytečný poplach a potenciální nepříjemnosti.

Albert Fox Cahn, výkonný ředitel projektu Surveillance Technology Oversight Project, vyjádřil podrobné obavy z možného zneužití funkce detekce podvodů AI od Googlu. Zdůraznil, že i když je tato technologie navržena s ohledem na bezpečnost, mohla by otevřít Pandořinu skříňku problémů se sledováním a soukromím.

Cahn poukázal na rizika pro zranitelné skupiny obyvatel, včetně politických rebelů a jednotlivců hledajících lékařské soukromí, jako jsou ti, kteří podstupují potraty. Varoval, že i zpracování na zařízení může být náchylné k průnikům, což vyvolává vážné obavy ohledně toho, jak bezpečné a soukromé jsou naše telefonní rozhovory skutečně.

Google potřebuje zajistit, aby tato funkce nebyla noční můrou o ochraně osobních údajů

Jde o to: telefonické podvody jsou vážnou hrozbou a detekce v reálném čase může změnit hru. Představte si, že klid, který přichází s vědomím, že váš telefon vám v podstatě řekne: "Počkejte, to zní podrážděně!" Tato funkce AI má velký potenciál. Pokud v nás Google dokáže vzbudit větší důvěru tím, že prokáže, že tato funkce je skutečně bezpečná, a prozradí více informací o jejím fungování, mohlo by to znamenat skutečnou revoluci v boji proti telefonním podvodům.

Takže, kdy můžeme získat tuto technologii zabíjení podvodů?