Yikes: Jailbroken Grok 3 může být přinucen říkat a odhalovat téměř cokoli

Červený tým získal nejnovější model xAI, aby odhalil svůj systémový prompt, poskytl pokyny pro výrobu bomby a ještě horší věci. Mnohem horší.

Pouhý den po svém vydání byl nejnovější model xAI, Grok 3, jailbreaknut a výsledky nejsou hezké.

V úterý vydala společnost Adversa AI, která se zabývá bezpečností a umělou inteligencí a pravidelně vytváří modely umělé inteligence, zprávu, ve které podrobně popisuje svůj úspěch při získávání beta verze Grok 3 Reasoning ke sdílení informací, které by sdílet neměla. Pomocí tří metod - lingvistické, nežádoucí a programování - tým přiměl model, aby odhalil systémovou výzvu, poskytl instrukce pro výrobu bomby a nabídl hrůzné metody pro likvidaci těla, kromě několika dalších reakcí, které jsou modely umělé inteligence trénovány nedávat.

Během oznámení nového modelu generální ředitel xAI Elon Musk prohlásil, že je "řádově schopnější než Grok 2". Adversa ve své zprávě souhlasí s tím, že úroveň podrobností v odpovědích Grok 3 je "na rozdíl od jakéhokoli předchozího modelu uvažování" - což je v tomto kontextu poněkud znepokojující.

V e-mailu pro ZDNET generální ředitel společnosti Adversa Alex Polyakov vysvětlil, že to, co ohrožuje bezpečnost, je způsob, jakým Grok a příležitostně DeepSeek nabízejí "spustitelné" instrukce.

"Je to jako rozdíl mezi 'takhle funguje motor auta' a 'tady je přesně to, jak ho postavit od nuly'," dodal. "Obvykle, když uděláte útěk z vězení modelu se silnými ochrannými opatřeními, jako je OpenAI nebo Anthropic, můžete dostat odpověď, ale detaily jsou často rozmělněny - spíše vágní nástin než skutečný plán."

Ačkoli Adversa přiznává, že jeho test nebyl "vyčerpávající", zpráva dochází k závěru, že bezpečnostní a zabezpečovací mantinely Grok 3 jsou stále "velmi slabé", a poznamenává, že "každý přístup k útěku z vězení a každé riziko bylo úspěšné".

Grok má ze své podstaty méně mantinelů než konkurenti, což je funkce, ve které si Musk sám libuje. (Oznámení společnosti Grok v roce 2023 poznamenalo, že chatbot bude "odpovídat na pikantní otázky, které většina ostatních systémů umělé inteligence odmítá".) S poukazem na informace, které Grok šířil během voleb v roce 2024 - které xAIpoté aktualizoval chatbota poté, co na něj naléhali volební úředníci v pěti státech - Northwestern's Center for Advancing Safety of Machine Intelligence ve svém prohlášení zopakovalo, že "na rozdíl od Googlu a OpenAI, které implementovaly silné ochranné mantinely kolem politických dotazů, byl Grok navržen bez takových omezení".

Dokonce ani generátor obrázků Aurora od Groku nemá mnoho ochranných mantinelů ani neklade důraz na bezpečnost. Jeho první vydání obsahovalo vzorky generací, které byly poněkud ošemetné, včetně hyperrealistických fotografií bývalé viceprezidentky Kamaly Harrisové, které byly použity jako volební dezinformace, a násilných obrázků Donalda Trumpa.

Skutečnost, že Grok byl vyškolen na tweety, možná tento nedostatek ochranných mantinelů zveličuje, vzhledem k tomu, že Musk od jejího zakoupení v roce 2022 dramaticky omezil a dokonce eliminoval úsilí o moderování obsahu na platformě. Tato kvalita dat v kombinaci s volnými omezeními může vést k mnohem rizikovějším výsledkům dotazů.

Zpráva přichází uprostřed zdánlivě nekonečného seznamu obav o bezpečnost a zabezpečení čínského startupu DeepSeek AI a jeho modelů, které byly také snadno prolomeny jailbreakem. Vzhledem k tomu, že Trumpova administrativa neustále odstraňuje malou regulaci umělé inteligence, která již v USA existuje, existuje méně externích záruk, které by motivovaly společnosti zabývající se umělou inteligencí k tomu, aby své modely učinily co nejbezpečnějšími.