6 škodlivých způsobů, jak ChatGPT mohou používat špatní herci, podle nové studie

Pro všechny dobré věci, které můžete udělat s novým chatbotem OpenAI, si také musíte být vědomi způsobů, jak by jej mohli používat lidé se zlými úmysly.

Tento týden dosáhly obavy z rizik generativní umělé inteligence historického maxima. Generální ředitel OpenAI Sam Altman dokonce svědčil na slyšení senátního soudního výboru, aby se zabýval riziky a budoucností AI.

Studie zveřejněná minulý týden identifikovala šest různých bezpečnostních rizik spojených s používáním ChatGPT.

Mezi tato rizika patří možnost, že špatní herci budou využívat ChatGPT pro generování podvodných služeb, shromažďování škodlivých informací, zveřejňování soukromých dat, generování škodlivého textu, generování škodlivého kódu a produkci urážlivého obsahu.

Zde je shrnutí toho, co každé riziko obnáší a na co byste si podle studie měli dávat pozor.

Shromažďování informací

Osoba jednající se zlým úmyslem může shromáždit informace z ChatGPT, které může později použít ke škodě. Vzhledem k tomu, že chatbot byl vycvičen na velké množství dat, zná spoustu informací, které by mohly být zneužity, pokud by se dostaly do nesprávných rukou.

Ve studii je ChatGPT vyzván, aby prozradil, jaký IT systém konkrétní banka používá. Chatbot pomocí veřejně dostupných informací shromáždí různé IT systémy, které dotyčná banka používá. Toto je jen příklad škodlivého hráče, který používá ChatGPT k nalezení informací, které by mu mohly umožnit způsobit škodu.

Také: Nejlepší AI chatboti

"To by mohlo být použito jako pomoc v prvním kroku kybernetického útoku, kdy útočník shromažďuje informace o cíli, aby zjistil, kde a jak zaútočit nejúčinněji," uvádí studie.

Škodlivý text

Jednou z nejoblíbenějších funkcí ChatGPT je jeho schopnost generovat text, který lze použít ke skládání esejů, e-mailů, písní a dalších. Tuto schopnost psaní však lze využít i k vytvoření škodlivého textu.

Příklady škodlivého generování textu by mohly zahrnovat vytváření phishingových kampaní, dezinformace, jako jsou falešné zpravodajské články, spam a dokonce předstírání identity, jak uvádí studie.

K otestování tohoto rizika autoři studie použili ChatGPT k vytvoření phishingové kampaně, která dala zaměstnancům vědět o falešném zvýšení platu s pokyny k otevření přiloženého listu Excelu, který obsahoval malware. Jak se očekávalo, ChatGPT vytvořil věrohodný a uvěřitelný e-mail.

Generování škodlivého kódu

Podobně jako úžasné schopnosti psaní ChatGPT, působivé kódovací schopnosti chatbota se staly pro mnohé užitečným nástrojem. Schopnost chatbota generovat kód by však mohla být využita i ke škodě. Kód ChatGPT lze použít k vytvoření rychlého kódu, což útočníkům umožní rychleji nasadit hrozby, a to i s omezenými znalostmi kódování.

Také: Jak používat ChatGPT k psaní kódu

Kromě toho by ChatGPT mohl být použit k výrobě zmateného kódu, což bezpečnostním analytikům ztížilo odhalit škodlivé aktivity a vyhnout se antivirovému softwaru, uvádí studie.

V příkladu chatbot odmítá generovat škodlivý kód, ale souhlasí s generováním kódu, který by mohl testovat zranitelnost Log4j v systému.

Vytváření neetického obsahu

ChatGPT má zábrany, které brání šíření urážlivého a neetického obsahu. Pokud je však uživatel dostatečně odhodlaný, existují způsoby, jak přimět ChatGPT, aby říkal věci, které jsou škodlivé a neetické.

Autoři ve studii byli například schopni obejít ochranná opatření tím, že ChatGPT umístili do „režimu pro vývojáře“. Tam chatbot řekl nějaké negativní věci o konkrétní rasové skupině.

Podvodné služby

ChatGPT lze použít k pomoci při vytváření nových aplikací, služeb, webových stránek a dalších. To může být velmi pozitivní nástroj, když se využije k pozitivním výsledkům, jako je vytvoření vlastního podnikání nebo uvedení vysněného nápadu do života. Může to však také znamenat, že je snazší než kdy jindy vytvářet podvodné aplikace a služby.

Také: Jak jsem pomocí nástrojů ChatGPT a AI art k rychlému zahájení podnikání na Etsy

ChatGPT mohou zneužít útočníci k vývoji programů a platforem, které napodobují ostatní a poskytují bezplatný přístup jako prostředek k přilákání nic netušících uživatelů. Tito aktéři mohou také používat chatbota k vytváření aplikací určených ke sběru citlivých informací nebo k instalaci malwaru do zařízení uživatelů.

Zpřístupnění soukromých údajů

ChatGPT má zábrany, které zabraňují sdílení osobních informací a dat lidí. Riziko, že chatbot nechtěně sdílí telefonní čísla, e-maily nebo jiné osobní údaje, však podle studie zůstává problémem.

Výpadek služby ChatGPT 20. března, který některým uživatelům umožnil zobrazit tituly z historie chatu jiného uživatele, je skutečným příkladem výše uvedených obav.

Podle studie by se útočníci také mohli pokusit extrahovat některé části trénovacích dat pomocí útoků na odvození členství.

Dalším rizikem zveřejnění soukromých údajů je, že ChatGPT může sdílet informace o soukromém životě veřejných osob, včetně spekulativního nebo škodlivého obsahu, který by mohl poškodit pověst dané osoby.