Ztraceno v překladu: AI chatboti jsou stále příliš orientovaní na anglický jazyk, zjistila Stanfordská studie

Lidské preference a zkušenosti nejsou univerzální a AI chatboti to musí odrážet.

Řešení AI a související chatboti, kteří se dostávají do popředí, mohou postrádat globální rozmanitost potřebnou k tomu, aby obsluhovala mezinárodní uživatelské základny. Mnoho dnešních velkých jazykových modelů má tendenci upřednostňovat „západně orientovaný vkus a hodnoty“, tvrdí nedávná studie vědců ze Stanfordské univerzity. Tvrdili, že pokusy dosáhnout toho, čemu se říká „soulad“ se zamýšlenými uživateli systémů nebo chatbotů, často selhávají.

Není to pro nedostatek snahy, jak ve studii vyprávějí vědci vedení Diyi Yangem, odborným asistentem na Stanfordské univerzitě a součástí Stanford Human-Centered Artificial Intelligence (HAI). "Než tvůrci nového chatbota založeného na umělé inteligenci mohou uvolnit své nejnovější aplikace pro širokou veřejnost, často sladí své modely s různými záměry a osobními hodnotami zamýšlených uživatelů." Snahy o dosažení tohoto sladění však „mohou přinést své vlastní předsudky, které ohrožují kvalitu odpovědí chatbotů“.

Teoreticky by „zarovnání mělo být univerzální a dělat velké jazykové modely příjemnějšími a užitečnějšími pro různé uživatele po celém světě a v ideálním případě pro co největší počet uživatelů,“ říkají. Nicméně anotátoři, kteří se snaží přizpůsobit datové sady a LLM v různých regionech, mohou tyto nástroje nesprávně interpretovat.

Chatboti s umělou inteligencí pro různé účely - od interakcí se zákazníky po inteligentní asistenty - se neustále množí výrazným tempem, takže je v sázce hodně. Očekává se, že velikost globálního trhu chatbotů s umělou inteligencí bude do roku 2033 dosahovat hodnoty téměř 67 miliard USD, přičemž podle odhadů MarketsUS poroste ročně o 26 % ze současné velikosti více než 6 miliard USD.

„Trh AI chatbotů zažívá rychlý růst kvůli zvýšené poptávce po službách automatizované zákaznické podpory a pokrokům v technologii AI,“ uvádějí autoři zprávy. "Je zajímavé, že se očekává, že více než 50 % podniků bude ročně investovat více do vývoje robotů a chatbotů než do vývoje tradičních mobilních aplikací."

Pointa je, že obrovské množství jazyků a komunit po celém světě je v současné době nedostatečně obsluhováno umělou inteligencí a chatboty. Anglické pokyny nebo závazky mohou obsahovat fráze nebo idiomy, které mohou být nesprávně interpretovány.

Stanfordská studie tvrdí, že LLM budou pravděpodobně založeny na preferencích jejich tvůrců, kteří v tuto chvíli pravděpodobně sídlí v anglicky mluvících zemích. Lidské preference nejsou univerzální a LLM musí odrážet "sociální kontext lidí, které zastupuje - což vede k odchylkám v gramatice, tématech a dokonce i v systémech morálních a etických hodnot."

Vědci ze Stanfordu nabízejí následující doporučení ke zvýšení povědomí o globální rozmanitosti:

Uvědomte si, že zarovnání jazykových modelů není univerzální řešení. "Procedury zarovnání ovlivňují různé skupiny různě."

Usilujte o transparentnost. Toto „je nanejvýš důležité při zveřejňování rozhodnutí o návrhu, která jdou do zarovnání LLM. Každý krok zarovnání přidává další složitosti a má dopad na koncové uživatele.“ Většina datových sad preferencí psaných člověkem nezahrnuje demografické údaje jejich anotátorů regionálních preferencí. "Hlášení takových informací spolu s rozhodováním o tom, jaké výzvy nebo úkoly jsou v doméně, je nezbytné pro zodpovědné šíření sladěných LLM mezi různorodé publikum uživatelů."

Vyhledávejte vícejazyčné datové sady. Výzkumníci se podívali na datovou sadu Tülu používanou v jazykových modelech, z nichž 13 % je neanglických. "Přesto tato vícejazyčná data vedou ke zlepšení výkonu v šesti z devíti testovaných jazyků pro extrakční QA a ve všech devíti jazycích pro čtení s porozuměním. Mnoho jazyků může těžit z vícejazyčných dat."

Úzká spolupráce s místními uživateli je také nezbytná k překonání kulturních nebo jazykových nedostatků nebo chybných kroků s AI chatboty. „Spolupráce s místními odborníky a rodilými mluvčími je zásadní pro zajištění autentické a vhodné adaptace,“ napsal Vuk Dukic, softwarový inženýr a zakladatel společnosti Anablock, v nedávném článku na LinkedIn. "K pochopení nuancí každého cílového trhu je nezbytný důkladný kulturní výzkum. Implementace algoritmů nepřetržitého učení umožňuje chatbotům přizpůsobit se v průběhu času interakcím uživatelů a zpětné vazbě."

Dukic také naléhal na „rozsáhlé testování s místními uživateli před úplným nasazením, které pomůže identifikovat a vyřešit kulturní chyby“. Kromě toho „nabídka výběru jazyka umožňuje uživatelům vybrat si preferovaný jazyk a kulturní kontext“.