Microsoft a OpenAI detekují a narušují kybernetické hrozby národních států, které využívají AI, uvádí zpráva

Zlí hoši také využívají velké jazykové modely.

S tím, jak jsou technologie generativní umělé inteligence vyspělejší, rostou i kybernetické útoky. Tvrdí to společnosti Microsoft a OpenAI, které sdílely výsledky výzkumu o škodlivém používání velkých jazykových modelů (LLM) protivníky podporovanými národními státy.

Ve středu Microsoft zveřejnil svou zprávu Cyber Signals 2024, která podrobně popisuje útoky na národní státy, které detekoval a narušil spolu s OpenAI od protivníků podporovaných Ruskem, Severní Koreou, Íránem a Čínou, a také kroky, které mohou jednotlivci a organizace podniknout. připravit se na možné útoky.

Tyto dvě technologické společnosti sledovaly útoky státních protivníků z Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon a Salmon Typhoon. Každý útok využíval LLM k rozšíření svých kybernetických operací do určité kapacity, včetně pomoci s výzkumem, řešením problémů a generováním obsahu.

Například Emerald Sleet, severokorejský aktér hrozeb, využil LLM k průzkumu think-tanků a expertů na Severní Koreu, generování obsahu, který by pravděpodobně byl použit v kampaních spear-phishing, porozuměl veřejně známým zranitelnostem, odstraňoval technické problémy a dokonce pomáhal s pomocí různých webových technologií, uvádí zpráva.

Podobně Crimson Sandstorm, íránský aktér hrozeb, používal LLM pro technickou pomoc, včetně podpory v oblasti sociálního inženýrství, pomoci při odstraňování chyb a další.

Pokud si chcete přečíst více o každé hrozbě národního státu, včetně jejich příslušnosti a jejich používání LLM, můžete se podívat na zprávu, která obsahuje část věnovanou jednotlivým brífinkům o hrozbách.

Microsoft sdílí, že podvody poháněné umělou inteligencí, jako je Voice Synthesis, která hercům umožňuje vycvičit model, aby zněl jako kdokoli s pouhým třísekundovým zvukovým kousnutím, je nově vznikající a stále více znepokojující hrozbou.

Zatímco zpráva ukazuje, že generativní umělou inteligenci používají zákeřní aktéři, tuto technologii mohou využít také obránci, jako je Microsoft, k vývoji chytřejší ochrany a udržení náskoku v neustálém honbě za kočkou a myší, kterou je kybernetická bezpečnost.

Microsoft každý den detekuje více než 65 milionů signálů kybernetické bezpečnosti. Umělá inteligence zajišťuje, že tyto signály jsou analyzovány pro jejich nejcennější informace, které pomáhají zastavit hrozby, uvádí zpráva.

Microsoft také sdílí další způsoby, jak používá AI, včetně „detekce hrozeb s podporou AI ke zjištění změn ve způsobu využívání zdrojů nebo provozu v síti; behaviorální analytika k detekci rizikových přihlášení a neobvyklého chování; modely strojového učení (ML) pro detekci rizikových přihlášení a malwaru, kde každý požadavek na přístup musí být plně ověřen, autorizován a zašifrován a musí být ověřen stav zařízení, než se zařízení může připojit k podnikové síti.

Na závěr zprávy Microsoft říká, že neustálé vzdělávání zaměstnanců a veřejnosti je klíčové v boji proti technikám sociálního inženýrství, které jsou úspěšné pouze v případě, že je lidé nedokážou identifikovat, a že prevence, ať už s umělou inteligencí, nebo ne, je klíčem k boji proti všem kybernetickým hrozbám. .