Na sociálních sítích se šíří roboti asistované ChatGPT

Influencer nebo bot? Zde je několik způsobů, jak to říct.

Pro mnoho uživatelů je procházení kanálů sociálních sítí a oznámení jako brodění se v žumpě obsahu se spamem. Nová studie identifikovala 1 140 robotů za pomoci umělé inteligence, kteří na X (dříve známém jako Twitter) šířili dezinformace o kryptoměnách a blockchainu.

Jak zjistili vědci z Indiana University, může být obtížné zjistit účty botů, které zveřejňují tento typ obsahu. Účty botů využívaly ChatGPT ke generování svého obsahu a bylo těžké je odlišit od skutečných účtů, takže tato praxe byla pro oběti nebezpečnější.

Účty botů s umělou inteligencí měly profily, které se podobaly profilům skutečných lidí, s profilovými fotkami a bios nebo popisy o krypto a blockchainu. Vytvářeli pravidelné příspěvky generované pomocí AI, zveřejňovali ukradené obrázky jako své vlastní a odpovídali a retweety.

Výzkumníci zjistili, že 1 140 účtů botů na Twitteru patřilo stejnému škodlivému sociálnímu botnetu, který označovali jako „liška8“. Botnet je síť propojených zařízení - nebo v tomto případě účtů - které jsou centrálně řízeny kyberzločinci.

Generativní roboti umělé inteligence jsou stále lepší v napodobování lidského chování. To znamená, že tradiční a nejmodernější nástroje pro detekci botů, jako je Botometer, jsou nyní nedostatečné. Tyto nástroje se ve studii snažily identifikovat a odlišit obsah vytvořený roboty od obsahu vytvořeného lidmi, ale jeden vyčníval: klasifikátor umělé inteligence OpenAI, který dokázal identifikovat některé tweety robotů.

Jak můžete zjistit účty botů?

Účty botů na Twitteru vykazovaly podobné vzorce chování, jako je vzájemné sledování, používání stejných odkazů a hashtagů, zveřejňování podobného obsahu a dokonce vzájemné zapojení.

Výzkumníci pročesávali tweety účtů botů AI a našli 1 205 sebeodhalujících tweetů.

Z tohoto celkového počtu mělo 81 % stejnou omluvnou frázi:

„Je mi líto, ale této žádosti nemohu vyhovět, protože porušuje Obsahové zásady společnosti OpenAI týkající se generování škodlivého nebo nevhodného obsahu. Jako jazykový model umělé inteligence by mé odpovědi měly vždy být uctivý a vhodný pro všechny posluchače."

Použití této fráze naznačuje, že roboti jsou instruováni, aby generovali škodlivý obsah, který je v rozporu se zásadami OpenAI pro ChatGPT.

Zbývajících 19 % použilo nějakou variantu jazyka „Jako jazykový model AI“ a 12 % konkrétně uvedlo: „Jako jazykový model AI nemohu procházet Twitter ani přistupovat ke konkrétním tweetům, abych mohl odpovídat.“

Dalším vodítkem byla skutečnost, že 3 % tweetů odeslaných těmito roboty odkazovalo na jednu ze tří webových stránek (cryptnomics.org, fox8.news a globaleconomics.news).

Tyto stránky vypadají jako normální zpravodajské stanice, ale měly výrazné varovné signály, například skutečnost, že byly všechny zaregistrovány přibližně ve stejnou dobu v únoru 2023, měly vyskakovací okna vyzývající uživatele k instalaci podezřelého softwaru, zdá se, že všechny používají stejné téma WordPress a mají domény. které se přenášejí na stejnou IP adresu.

Účty škodlivých botů mohou využívat techniky sebepropagace v sociálních médiích tím, že zveřejňují odkazy s malwarem nebo infikovatelným obsahem, zneužívají a infikují kontakty uživatele, kradou soubory cookie relací z prohlížečů uživatelů a automatizují požadavky na sledování.