Vyhledávání na webu

Snažíte se rozbít nové modely o1 OpenAI? Možná dostanete ban

Přimět nový model umělé inteligence do halucinací může být zábavná výzva, ale tyto akce nyní mají důsledky.

I ty nejchytřejší modely umělé inteligence jsou náchylné k halucinacím, které mohou být zábavné, když jsou vyprovokovány. Mohu vám připomenout lepicí pizzu? Pokud se však pokusíte vyvolat halucinace v pokročilých modelech uvažování o1 OpenAI, můžete k modelu zcela ztratit přístup.

OpenAI minulý týden představilo své modely o1, které byly trénovány tak, aby „přemýšlely, než promluví“, a díky tomu jsou schopny řešit složité matematické, vědecké a kódovací problémy pomocí pokročilého uvažování. S modelem vychvalujícím tak působivé schopnosti se lidé přirozeně rozhodli přerušit jeho uvažování.

Nicméně, jak si poprvé všiml Wired, uživatelé, kteří se o to pokusili, dostali varování v rozhraní chatbota, které je informovalo, že jejich akce porušují podmínky použití a zásady používání OpenAI. Akce uživatele zahrnovaly zmínku o termínech jako „sledování uvažování“ nebo „uvažování“.

Podle podmínek použití OpenAI, které byly naposledy aktualizovány 31. ledna 2024, si společnost vyhrazuje právo „pozastavit nebo ukončit váš přístup k našim službám nebo smazat váš účet“, pokud zjistí, že uživatel porušil podmínky nebo zásady používání, což by mohlo způsobit riziko. nebo poškozují OpenAI a další uživatele nebo nejsou v souladu se zákonem.

Reakce na tyto zásady byly smíšené, někteří lidé si stěžovali, že tato omezení brání správnému red-teamingu, zatímco jiní jsou rádi, že jsou přijímána aktivní opatření na ochranu proti mezerám v novějších modelech.

Pokud si chcete modely o1 vyzkoušet sami, můžete si vytvořit bezplatný účet ChatGPT, přihlásit se, přepínat mezi „alfa režimy“ z výběru modelu a vybrat si o1-mini. Pokud chcete vyzkoušet o1-preview, budete si muset předplatit účet ChatGPT Plus za 20 $měsíčně.

Související články