OpenAI používá svůj vlastní nástroj pro detekci AI, protože fungoval tak špatně

Když OpenAI začátkem tohoto roku spustilo svůj nástroj pro detekci AI, jeho tvůrci jej nazvali „nedokonalým“. To bylo zjevně velkorysé.

Když OpenAI před necelými šesti měsíci debutovalo s nástrojem pro detekci umělé inteligence, uznalo, že funkce navržená tak, aby pomohla uživatelům rozpoznat text napsaný umělou inteligencí, je „nedokonalá“. Nyní společnost tuto funkci v tichosti stáhla kvůli její „nízké přesnosti“.

Oznámení přišlo ve formě aktualizace blogového příspěvku z ledna 2023, kde OpenAI tuto funkci oznámila. Poznámka v horní části příspěvku nyní zní: „Od 20. července 2023 již klasifikátor AI není k dispozici kvůli nízké míře přesnosti.“ Aktualizace dále uvedla, že společnost „v současné době zkoumá efektivnější techniky provenience textu“.

Funkce, kterou bylo možné používat zdarma, fungovala tak, že vzal text a přiřadil jej do jedné z několika kategorií. Umělá inteligence by pak tyto kategorie analyzovala a přiřadila hodnocení od „velmi nepravděpodobné“ po „pravděpodobné“ napsané umělou inteligencí.

Když tento nástroj debutoval, Lama Ahmad, ředitel pro výzkum politiky v OpenAI, řekl CNN, že OpenAI nedoporučuje používat tento nástroj izolovaně, protože společnost věděla, že „to může být špatné a někdy bude špatné“. To mohlo být podhodnocení.

Studie ze začátku tohoto měsíce ukázala, že detektory umělé inteligence byly obzvláště špatné při rozlišování obsahu napsaného lidmi, kteří nemluvili anglicky jako svým prvním jazykem, s průměrnou mírou chyb 61 %. Jeden program v této studii však nesprávně označil neuvěřitelných 97 % esejí napsaných lidmi.

Začátkem tohoto roku ZDNET testoval několik nástrojů pro detekci umělé inteligence a našel podobné výsledky - tyto nástroje byly poměrně nepřesné a bylo snadné je oklamat.

Jiné detektory umělé inteligence existují, ale OpenAI, která svůj nástroj stahuje veřejnosti, ukazuje, jak náročné je přesně detekovat umělou inteligenci. A je snadné vidět, jak se to může pokazit. Ve vzdělávacím nebo profesionálním prostředí může mít nespravedlivé obvinění někoho z plagiátorství hrozné následky.

Jak AI pokračuje v pokroku, obavy z jejího použití k psaní esejů a dokončení práce jsou legitimní. Ale dokud se detekční nástroje výrazně nezlepší, budeme se muset držet policejní kontroly lidskýma očima.