Nvidia říká, že dokáže zabránit chatbotům v halucinacích
Chatboti s umělou inteligencí se často dostávají na titulky pro své podivné chování. Nový software Nvidie by to mohl opravit.
Nvidia, technologický gigant zodpovědný za vynalezení prvního GPU - nyní zásadního kusu technologie pro generativní modely AI, v úterý představila nový software, který má potenciál vyřešit velký problém s chatboty AI.
Software NeMo Guardrails má podle Nvidie zajistit, aby chytré aplikace, jako jsou chatboti AI, poháněné velkými jazykovými modely (LLM), byly „přesné, vhodné, k tématu a bezpečné“.
Také: 5 největších rizik generativní umělé inteligence podle odborníka
Software s otevřeným zdrojovým kódem mohou používat vývojáři AI k nastavení tří typů hranic pro modely AI: aktuální, bezpečnostní a bezpečnostní zábradlí.
Aktuální ochranné zábradlí zabrání aplikaci AI v prozkoumávání témat v oblastech, které nejsou nutné nebo žádoucí pro zamýšlené použití. Nvidia uvádí příklad asistenta zákaznického servisu, který neodpovídá na otázky o počasí.
Tento typ zábradlí by byl užitečný pro Bing Chat, když byl poprvé uvolněn a začal odhalovat tajemství společnosti.
Bezpečnostní zábradlí je pokusem vypořádat se s problémem dezinformací a halucinací.
Při použití zajistí, že aplikace AI budou reagovat s přesnými a vhodnými informacemi. Například používáním softwaru lze posílit zákazy nevhodného jazyka a důvěryhodné citace zdrojů.
Bezpečnostní zábradlí by jednoduše bránilo aplikacím v přístupu k externím aplikacím, které jsou považovány za nebezpečné.
Také: Podle této studie může generativní umělá inteligence učinit některé pracovníky mnohem produktivnějšími
Nvidia tvrdí, že prakticky všichni vývojáři softwaru budou moci používat NeMo Guardrails, protože se snadno používají, pracují s širokou škálou aplikací podporujících LLM a pracují se všemi nástroji, které používají vývojáři podnikových aplikací, jako je LangChain.
Společnost začlení NeMo Guardrails do svého rámce Nvidia NeMo, který je již většinou dostupný jako open-source kód na GitHubu.
Bude také nabízena jako součást softwarové platformy Nvidia AI Enterprise a jako služba prostřednictvím Nvidia AI Foundations.