Výrobce ChatGPT OpenAI má bezplatný nástroj, který dokáže rozpoznat text napsaný umělou inteligencí
OpenAI nabízí bezplatný, ale "nedokonalý" nástroj pro detekci textu generovaného umělou inteligencí a doufá, že podnítí debatu o gramotnosti v oblasti umělé inteligence.
Výrobce ChatGPT OpenAI vydal "klasifikační" nástroj, který dokáže detekovat text napsaný umělou inteligencí, ale poznamenává, že by se na něj nemělo spoléhat.
Šíře podnětů, na které může ChatGPT vytvářet odpovědi, znepokojila pedagogy, protože někteří studenti začali odevzdávat eseje a domácí úkoly generované umělou inteligencí jako vlastní práci.
Vzdělávání je jednou z oblastí, která by mohla těžit z nového klasifikátoru OpenAI tím, že automatizuje detekci esejí a domácích úkolů generovaných umělou inteligencí. Mohlo by to umožnit jinou reakci, než řekněme omezení jeho používání, jak to nedávno udělaly newyorské školy. Školní oddělení po celé Austrálii také zakázala ChatGPT.
Klasifikátor by také mohl pomoci společnostem, jako je vývojářský web s otázkami a odpověďmi, Stack Overflow, který zakázal odpovědi ChatGPT poté, co byli jeho moderátoři zaplaveni někdy správnými řešeními.
Zatímco klasifikátor může eliminovat některé detekční práce, OpenAI říká, že je nemožné spolehlivě detekovat veškerý text napsaný umělou inteligencí a existuje řada omezení, která ovlivňují jeho účinnost.
Klasifikátor správně identifikuje 26 % textu napsaného umělou inteligencí jako "pravděpodobně napsaný umělou inteligencí" - což je jeho skutečná pozitivní míra. V 9 % případů nesprávně identifikuje text psaný člověkem jako text napsaný umělou inteligencí - je falešně pozitivní. Jinými slovy, existuje přiměřeně vysoká šance, že se mu nepodaří detekovat text odeslaný člověkem, který neprozradí, že byl napsán umělou inteligencí, a určitá šance, že text označí chybně v obou směrech. Tvrdí však, že klasifikátor je "výrazně spolehlivější na text z novějších systémů umělé inteligence" než jeho předchozí detektor založený na GPT-2.
"Tento klasifikátor zpřístupňujeme veřejnosti, abychom získali zpětnou vazbu o tom, zda jsou nedokonalé nástroje, jako je tento, užitečné," uvedla OpenAI v tiskové zprávě a dodala, že doufá, že tento nástroj "podnítí diskusi o gramotnosti v oblasti umělé inteligence".
Bezplatný webový klasifikátor je k dispozici zde. Aby jej uživatelé mohli použít, musí zkopírovat a vložit část textu do textového pole a poté stisknout tlačítko Odeslat. Text bude hodnocen jako "velmi nepravděpodobný", "nepravděpodobný", "není jasné, zda je", "možná" nebo "pravděpodobně" generován umělou inteligencí.
Klasifikátor potřebuje k analýze textu alespoň 1 000 znaků - asi 150 až 250 slov. OpenAI varuje, že je snadné upravovat text generovaný umělou inteligencí, aby se zabránilo detekčním programům. Nástroj také s větší pravděpodobností chybně označí text napsaný dětmi a neanglický text, protože byl primárně vyškolen na anglickém obsahu napsaném dospělými.
OpenAI také říká, že "důkladně neposoudila účinnost klasifikátoru při detekci obsahu napsaného ve spolupráci s lidskými autory".
Říká, že nástroj by neměl "být používán jako primární nástroj pro rozhodování", ale jako doplněk k jiným metodám určení zdroje textu.