ChatGPT a nová umělá inteligence způsobují zmatek v kybernetické bezpečnosti vzrušujícím a děsivým způsobem
Kyberzločinci, neomezení etikou ani zákonem, závodí v používání AI k nalezení inovativních nových hacků, říká CEO Recorded Future Christopher Ahlberg.
Generativní umělá inteligence transformuje kybernetickou bezpečnost a pomáhá útočníkům i obráncům. Kyberzločinci využívají AI k zahájení sofistikovaných a neotřelých útoků ve velkém měřítku. A obránci používají stejnou technologii k ochraně kritické infrastruktury, vládních organizací a podnikových sítí, řekl Christopher Ahlberg, generální ředitel platformy Recorded Future pro informace o hrozbách.
Generativní umělá inteligence pomohla špatným aktérům inovovat a vyvinout nové strategie útoků, což jim umožňuje zůstat o krok napřed před kybernetickou obranou. Umělá inteligence pomáhá kyberzločincům automatizovat útoky, skenovat povrchy útoků a generovat obsah, který rezonuje s různými geografickými oblastmi a demografickými údaji, což jim umožňuje zaměřit se na širší škálu potenciálních obětí v různých zemích. Kyberzločinci přijali technologii k vytváření přesvědčivých phishingových e-mailů. Text generovaný umělou inteligencí pomáhá útočníkům vytvářet vysoce personalizované e-maily a textové zprávy, které s větší pravděpodobností oklamou cíle.
„Myslím, že nemusíte myslet příliš kreativně, abyste si uvědomili, že to může [kyberzločincům] ve skutečnosti pomoci být autory, což je problém,“ řekl Ahlberg.
Obránci používají AI k odražení útoků. Organizace využívají tuto technologii, aby zabránily únikům a proaktivně našly zranitelnosti sítě. Také dynamicky automatizuje úkoly, jako je nastavení upozornění na konkrétní klíčová slova a online zjišťování citlivých informací. Lovci hrozeb používají umělou inteligenci k identifikaci neobvyklých vzorců a shrnutí velkého množství dat, spojujíc body napříč různými zdroji informací a skrytými vzory.
Práce stále vyžaduje lidské odborníky, ale Ahlberg říká, že generativní technologie umělé inteligence, kterou vidíme v projektech jako ChatGPT, může pomoci.
"Chceme urychlit cyklus analýzy, aby nám pomohl analyzovat rychlostí myšlení," řekl. "To je velmi těžká věc a myslím, že zde vidíme průlom, což je docela vzrušující."
Ahlberg také diskutoval o potenciálních hrozbách, které mohou vysoce inteligentní stroje přinášet. Jak se svět stává stále více digitálním a propojeným, schopnost ohýbat realitu a utvářet vjemy by mohli zneužít zlomyslní aktéři. Tyto hrozby se neomezují na národní státy, díky čemuž je krajina ještě složitější a asymetrická.
Umělá inteligence má potenciál pomáhat chránit se před těmito vznikajícími hrozbami, ale představuje také vlastní sadu rizik. Například stroje s vysokými schopnostmi zpracování by mohly hackovat systémy rychleji a efektivněji než lidé. Abychom těmto hrozbám čelili, musíme zajistit, aby umělá inteligence byla používána defenzivně as jasným pochopením toho, kdo má kontrolu.
Jak se umělá inteligence více integruje do společnosti, je důležité, aby zákonodárci, soudci a další činitelé s rozhodovací pravomocí rozuměli technologii a jejím důsledkům. Budování silných aliancí mezi technickými odborníky a tvůrci politik bude zásadní pro orientaci v budoucnosti AI při hledání hrozeb i mimo ni.
Příležitosti, výzvy a etické úvahy v oblasti kybernetické bezpečnosti jsou složité a vyvíjejí se. Zajištění nezaujatých modelů umělé inteligence a zachování lidské účasti na rozhodování pomůže zvládnout etické výzvy. Při řešení potenciálních dlouhodobých hrozeb vysoce inteligentních strojů bude klíčová ostražitost, spolupráce a jasné pochopení technologie.
Ahlberg také vyjádřil obavy z Číny, Ruska a ekonomických protivníků nasazujících autonomní stroje. Tyto země pravděpodobně nezpomalí vývoj umělé inteligence ani nebudou sdílet etické úvahy. I když schopnost „vytáhnout zástrčku“ na takových strojích je chytrou ochranou, naznačuje, že integrace technologie do společnosti a globální ekonomiky pravděpodobně ztíží odloučení. Ahlberg zdůrazňuje potřebu navrhovat produkty a stroje s jasnou představou o tom, kdo je řídí.
"Velká věc, kterou internet v tom všem udělal, je, že se internet stal místem, kam migrovaly všechny světové informace," řekl Ahlberg. "Tyto velké jazykové modely dělají docela magické věci... aby urychlily cyklus myšlení."
Dodal: "V příštích 25 letech se svět stane odrazem internetu."