OpenAI našla způsob, jak udělat modely AI logičtějšími a vyhnout se halucinacím

Změna v tom, jak se modely AI trénují, by mohla pomoci zabránit výmyslům.

Ačkoli jsou modely umělé inteligence pokročilé a dokážou dělat mimořádné věci, stále jsou schopny dělat chyby a produkovat nesprávné odpovědi - známé jako halucinace.

Všichni hlavní AI chatboti, včetně ChatGPT a Google Bard, jsou náchylní k těmto halucinacím. OpenAI i Google dokonce obsahují prohlášení, že jejich chatboti mohou produkovat nesprávné informace.

"ChatGPT někdy píše věrohodně znějící, ale nesprávné nebo nesmyslné odpovědi," říká OpenAI v příspěvku na blogu ChatGPT.

Vytváření nepravdivých informací vedlo k rozšířeným obavám ze šíření dezinformací a jejich potenciálních negativních důsledků.

V novém výzkumném příspěvku OpenAI sdílí, že možná našlo způsob, jak přimět modely umělé inteligence, aby jednaly logičtěji a vyhýbaly se halucinacím.

OpenAI vycvičila model, který je schopen řešit složité matematické problémy prostřednictvím „kontroly procesu“, což je metoda, která poskytuje zpětnou vazbu pro každý jednotlivý krok na rozdíl od „kontroly výsledku“, která poskytuje zpětnou vazbu ke konečnému výsledku.

Ve výzkumném dokumentu OpenAI testovala obě metody pomocí datové sady MATH a zjistila, že metoda kontroly procesu vedla k „výrazně lepšímu výkonu“.

„Dohled nad procesem také s větší pravděpodobností poskytne interpretovatelné uvažování, protože povzbuzuje model, aby se řídil procesem schváleným člověkem,“ říká OpenAI ve výzkumném dokumentu.

OpenAI poznamenává, že mimo rámec matematických problémů není známo, jak široce budou tyto výsledky platit, ale stále je důležité prozkoumat to v jiných oblastech.