Generativní AI přeplňuje podvody (zde je návod, jak a na co si dát pozor)
Klíčové věci
- Podvodníci jsou stále kreativnější s falešnými produkty a hlasovými projevy generovanými umělou inteligencí, aby přilákali nic netušící kupce.
- Podvodníci v seznamovacích aplikacích používají AI chatboty k cílení na oběti; falešné recenze jsou jednodušší s velkými jazykovými modely.
- Jak se technologie AI zdokonaluje, bude těžší rozlišit skutečný obsah od padělků; vždy před nákupem online prozkoumejte.
Termín „podvod“ se vztahuje na vše od sofistikovaného cíleného útoku až po riskantní reklamu před videem na vašem oblíbeném webu pro streamování videa. Špatnou zprávou je, že vytváření těchto podvodů je stále snazší.
Demokratizace falešných obrázků
Mezi podvodem a spamem je tenká, ale zřetelná hranice, ale tyto dvě sféry se pravidelně překrývají. To platí zejména, pokud jde o online reklamu, ať už prohlížíte web nebo procházíte sociálními médii. Inzerenti neschvalují každou reklamu, kterou zobrazí, místo toho se spoléhají na hlášení uživatelů, aby vyřadili špatné aktéry.
Pokud trávíte hodně času online, pravděpodobně každý den procházíte kolem nespočtu riskantních reklam. Snad nejzajímavější z nich jsou produkty, které neexistují a místo toho jsou vyrobeny buď ručně, nebo pomocí generativní umělé inteligence, jako je DALL-E nebo Midjourney.
Shánění potenciálních kupců falešnými produkty není nic nového, ale jednou jste potřebovali vizi, nějaké dovednosti Photoshopu a kus volného času. S příchodem generátorů textu na obrázek můžete strávit tak málo nebo tolik času, kolik chcete, vkládáním výzev do generátoru obrázků, dokud nedosáhnete výsledků, které hledáte. Nebe je limit, pokud jde o druhy produktů, se kterými můžete přijít.
V dubnu 2024 Snopes oznámil, že velké množství podvodů „Cat’s Eye Dazzle“ zasáhlo sociální média jako bouře. Podvod zahrnoval generování falešných květin, které vypadají jako kočky, aby přilákaly uživatele na sociálních sítích, jako je Facebook. Pro semena se objevily záznamy na eBay, zatímco jiní „prodejci“ používali k vyplácení peněz vlastní nákupní portály.
Pro některé je skutečnost, že tyto květiny jsou padělky generované AI, okamžitě zřejmá. Jiné podobné podvody nejsou tak přitažené za vlasy. Kanál YouTube Atomic Shrimp vytvořil video dokumentující tento jev a zkoumal rozumněji znějící seznamy „skutečných“ modrých růží a slunečnic, z nichž ani jedna neexistuje.
Květiny, které vypadají jako kočky, a rostliny s nemožným zbarvením jsou jen dva příklady podvodů, které, jak se zdá, přistihly stovky, ne-li tisíce lidí. Vygenerování těchto obrázků trvalo několik sekund a několik dalších bylo zveřejněno na Facebooku.
Hlasy AI propůjčují videu důvěryhodnost
Pravděpodobně jste si dobře vědomi vzestupu funkcí převodu textu na hlas, přičemž sociální platformy, jako je TikTok, usnadňují generování komentáře, který zní přirozeně, ale je také snadno pochopitelný. Hlas „TikTok lady“ se nyní týká nejen značky TikTok, ale také užitečného nástroje pro tvůrce obsahu.
Ale hlasy AI jsou mnohem víc než to. ChatGPT může generovat hlasové komentáře, pokud platíte za prémiovou úroveň, a služby jako ElevenLabs mají k dispozici bezplatné úrovně. Viděl jsem, že menší kanály YouTube provozované tvůrci, kterým není příjemné mluvit na kameru, přecházejí na hlasy generované umělou inteligencí. To může být nepříjemné, ale je to přinejmenším založeno na dobrých úmyslech.
Hlavní háček je v tom, že mluvený komentář propůjčuje vašemu videu důvěryhodnost. Před několika lety jste museli vynaložit čas a úsilí nebo finanční prostředky na přidání komentáře ke svému videu. Potřebovali byste vybavení a praxi nebo najatého hlasového herce. Nyní je to tak jednoduché, jako napsat skript, se kterým jste spokojeni, a vybrat si hlas, který chcete použít.
Díky tomu jsou podvodné reklamy na schémata rychlého zbohatnutí a dropshippingové produkty ještě důvěryhodnější. Pokud reklama zní jako skutečná nabídka, pravděpodobně budete mít v produkt větší důvěru. Lidé, kteří tyto reklamy provozují, to vědí, a proto došlo za poslední rok k explozi této praxe.
Prozatím není příliš těžké identifikovat hlasový projev generovaný umělou inteligencí. Skloňování a výslovnost mohou znít trochu roboticky a přirozený rytmus lidské řeči tam není tak docela. Připoutejte se, protože tyto nástroje se budou jen zlepšovat a nakonec nebudete schopni rozeznat rozdíl.
Podvodníci ze seznamovacích aplikací vrhají širší sítě
Jedna věc je návnada falešnými produkty a robotickým komentářem, ale co podvod, který se zaměří na vás osobně? To je přesně to, co se děje v rámci online seznamovacího prostoru v masivním měřítku, díky síle velkých jazykových modelů, které mohou konverzovat jako skuteční lidé (dobře, dost blízko).
Pomocí chatbotů poháněných umělou inteligencí mohou podvodníci vrhnout širokou síť, aby nachytali své oběti pomocí softwaru, který dokáže efektivně zadržet konverzaci dostatečně dlouho, aby upoutal něčí pozornost. Existuje několik způsobů, jak se to používá, a všechny se cítí invazivní.
Někteří používají chatboty k tomu, aby posílali zprávy obrovskému množství lidí, a pak následují v naději, že se setkají s někým, koho mají skutečně rádi. Začátkem roku 2024 se objevilo nespočet zpráv o muži, který se touto technikou seznámil se svou ženou. Ať už tomu věříte nebo ne, existuje obrovské množství mobilních aplikací a služeb, které slibují chatování s potenciálními partnery (samozřejmě za poplatek).
Věci naberou rozhodně zlověstnější spád, když se tyto nástroje použijí k nalezení cílů pro finanční podvody. Online podvodníci již dlouho využívají základní lidskou touhu po společnosti ve snaze získat peníze ze svých známek. Nyní mohou za ně pracovat chatboty, kteří převezmou řízení, když uznají, že je to nutné.
Spojte to s generátorem obrázků AI, který vám umožní přístup k tolika originálním hezkým tvářím, kolik chcete, a podvodníci už ani nebudou muset krást profilové obrázky někoho jiného.
AI Video je na obzoru
Přesvědčivý převod textu na video není v době psaní tohoto článku široce dostupný, ale s nástroji jako OpenAI SORA na obzoru se stane silou, se kterou je třeba počítat. Nástroj OpenAI může generovat realisticky vypadající pohyblivé obrázky pouze po výzvě (i když pokud se budete pozorně dívat, můžete najít nedostatky).
Pokud nic víc, video generované umělou inteligencí jen zhorší problémy, které přináší jiný obsah generovaný umělou inteligencí. Díky využití stále se zdokonalující umělé inteligence není těžké si představit budoucnost, kde budete moci vytvářet falešné obrázky produktů, video, na kterém je tento produkt používán na relevantních místech „skutečnými“ lidmi, a hlasový komentář k videu, který můžete použít. to inzerovat.
Pokud se cítíte obzvláště podnikaví, můžete použít velký jazykový model ke zvýšení postavení vašeho produktu…
AI může dokonce falešné recenze
Falešné recenze nejsou nic nového. Všichni jsme je viděli a mnozí z nás jim propadli (ať už to víme nebo ne). Ale ještě před několika lety vyžadovaly falešné recenze určité úsilí. S příchodem velkých jazykových modelů se falešné recenze mohou doslova psát v masovém měřítku.
Zneužití velkých jazykových modelů ke generování recenzí a propagaci produktů nebo podniků je jedna věc, ale technologie funguje oběma směry. Co takhle použít tuto technologii k vytvoření recenzí, které nespravedlivě kritizují konkurenční produkt? Nikdy nebylo snazší vytvořit negativní screed, i když jej musíte zkopírovat a vložit sami.
Zkombinujte recenze generované umělou inteligencí s tradičnějšími podvody s kartáčováním a získáte důvěryhodnost štítku „ověřený nákup“. Nakonec je na držitelích platforem, aby bojovali proti této nové vlně zavádějícího online obsahu.
Věci mohou být jen lepší (horší)
Tyto nástroje se časem zdokonalí, takže bude obtížnější rozeznat skutečné od fantastického. Pokud si chcete udržet náskok před podvodníky, musíte být k technologii moudří. Pokud rozumíte tomu, co je možné, budete lépe vyzbrojeni, abyste pochopili, co je skutečné a co ne.
Facebook je obzvláště bohatý na obrázky generované umělou inteligencí, takže pochopení toho, jak rozpoznat padělky vytvořené umělou inteligencí, je cenná dovednost. Vždy byste se měli mít na pozoru před online reklamami, ať už je objevíte na svých oblíbených webových stránkách nebo na sociální síti.
Než si něco koupíte, vždy si udělejte průzkum, ať už je to kus technologie nebo balíček semínek, který jste viděli na Facebooku. Je ironií, že byste se také mohli zeptat svého oblíbeného chatbota, který pochází z jeho tvrzení.