Technolog Bruce Schneier o bezpečnosti, společnosti a proč potřebujeme modely „veřejné umělé inteligence“.

Renomovaný bezpečnostní expert říká, že plně transparentní modely nám mohou pomoci přeměnit AI na nástroj, který přináší výhody pro každého.

Ve svém hlavním projevu na konferenci Secure Open Source Software (SOSS) Fusion Conference v Atlantě diskutoval renomovaný bezpečnostní expert Bruce Schneier o příslibech a hrozbách umělé inteligence (AI) pro kybernetickou bezpečnost a společnost.

Schneier na úvod řekl: "AI je složité slovo. Když přemýšlím o tom, jak technologie nahrazují lidi, myslím si, že se zlepšují v jedné nebo více ze čtyř dimenzí: rychlost, rozsah, rozsah a sofistikovanost. AI nejsou lepší v trénují, než jsou lidé. Zajímavé je, když tato rychlost věci zásadně změní.

Například řekl: "Vysokofrekvenční obchodování (HFT) není jen rychlejší obchodování. Je to jiný druh zvířat. To je důvod, proč se obáváme AI, sociálních médií a demokracie. Rozsah a rozsah agentů AI jsou tak skvělé, že mění povahu sociálních médií.“ Například političtí boti AI už ovlivňují americké volby.

Další obavou, kterou Schneier vznesl, je to, že AI dělají chyby, které nejsou jako ty, které dělají lidé. "AI bude dělat systematičtější chyby," varoval. "Umělá inteligence v tuto chvíli nemá takový zdravý rozum, jaký mají lidé." Tento nedostatek zdravého rozumu by mohl vést k všudypřítomným chybám, když je AI aplikována na kritické rozhodovací procesy.

To neznamená, že AI nemohou být užitečné - mohou být. Schneier uvedl příklad: "AI může monitorovat sítě a provádět skenování zdrojového kódu a zranitelnosti. To jsou všechny oblasti, kde to mohou dělat lidé, ale jsme příliš pomalí na to, když se věci dějí v reálném čase. I když umělá inteligence dokáže odvést průměrnou práci." při kontrole celého zdrojového kódu by to bylo fenomenální a ve všech těchto oblastech by bylo hodně práce."

Konkrétně pokračoval: "Myslím, že uvidíme, jak AI provede první úroveň třídění s bezpečnostními problémy. Vidím je jako forenzní asistenty, kteří pomáhají při analýze dat. Získáváme spoustu údajů o aktérech hrozeb a jejich akcích. a potřebujeme někoho, kdo to prohlédne."

Schneier navrhl, že AI může pomoci zaplnit tuto mezeru. I když umělé inteligence nemohou nahradit lidské experty (alespoň zatím ne), mohou pomoci: „Umělé inteligence se mohou stát našimi přisluhovači. Jsou v pořádku. Nejsou tak chytří. Ale mohou zvýšit efektivitu lidí tím, že outsourcují některé fádní práce."

Bezpečnostní expert Bruce Schneier na SOSS Fusion 2024.

Pokud jde o použití umělé inteligence v zabezpečení, Schneier řekl: "Bude to závod ve zbrojení, ale zpočátku si myslím, že obránci budou lepší. Už na nás útočí počítačovou rychlostí. Schopnost bránit se rychlostí počítače bude velmi platný."

Bohužel systémy umělé inteligence mají před sebou ještě dlouhou cestu, než nám budou moci pomoci samostatně. Schneier řekl, že součástí problému je, že "víme, jak lidští přisluhovači dělají chyby, a máme tisíce let historie řešení lidských chyb. Ale umělá inteligence dělá různé druhy chyb a naše intuice selže a my potřebujeme abychom zjistili nové způsoby auditování a kontroly, abychom se ujistili, že chyby typu AI nezničí naši práci."

Schneier řekl, že špatná zpráva je, že jsme hrozní v rozpoznávání chyb AI. „V tom se však zdokonalíme, pochopíme omezení umělé inteligence a jak se před nimi chránit. Získáme mnohem lepší analýzu toho, v čem je umělá inteligence dobrá a jaká rozhodnutí činí, a také se podíváme na to, zda znovu pomáhat lidem versus je nahrazovat Budeme hledat rozšiřující versus nahrazující lidi."

Právě teď "ekonomické pobídky mají nahradit lidi těmito levnějšími alternativami", ale to často nebude správná odpověď. „Firmy to nakonec poznají, ale v tuto chvíli až příliš často svěří AI práci, kterou ve skutečnosti dělat nemají.“

Schneier se také zabýval koncentrací vývojové síly AI v rukou několika velkých technologických korporací. Zasazoval se o vytvoření modelů „veřejné umělé inteligence“, které jsou plně transparentní a vyvinuté se společenským přínosem spíše než ziskovými motivy. "Potřebujeme modely umělé inteligence, které nejsou korporátní," řekl Schneier. "Doufám, že éra spalování obrovských hromad peněz za účelem vytvoření modelu nadace bude dočasná."

Při pohledu do budoucna Schneier vyjádřil opatrný optimismus ohledně potenciálu umělé inteligence zlepšit demokratické procesy a zapojení občanů do vlády. Zdůraznil několik neziskových iniciativ, které se snaží využít umělou inteligenci pro lepší legislativní přístup a účast.

"Můžeme vybudovat systém, který lidem pomůže zapojit jejich zákonodárce a vyjadřovat se k zákonům, na kterých jim záleží?" zeptal se Schneier. "Umělá inteligence v tom hraje roli, a to jak v jazykovém překladu, což je pro AI velká výhra při sumarizaci účtů, tak v závěrečném shrnutí připomínek, aby se systém dostal k zákonodárci."

Jak se umělá inteligence rychle vyvíjí, Schneier řekl, že bude vzrůstající potřeba promyšleného návrhu systému a regulačních rámců ke zmírnění rizik a zároveň využití výhod této technologie. Nemůžeme spoléhat na to, že to udělají firmy. Jejich zájmy nejsou zájmy lidí. Jak se umělá inteligence integruje do kritických aspektů bezpečnosti a společnosti, musíme tyto problémy řešit raději dříve než později.