Lepit pizzu? Benzínové špagety? Google vysvětluje, co se stalo s jeho nemotornými výsledky vyhledávání AI

Google říká, že mnoho z toho, co se stalo virálním, nebylo skutečné, ale připustil, že jeho funkce AI stále potřebuje vylepšení. Zde je to, co společnost dělá.

Pokud jste byli minulý týden na sociálních sítích, pravděpodobně jste je viděli. Snímky obrazovky nových souhrnů vyhledávání od Googlu s umělou inteligencí se staly virálními, hlavně proto, že Google údajně vydával divoká doporučení, jako je přidání lepidla na pizzu, vaření špaget s benzínem nebo návrhy, že byste měli jíst kameny pro optimální zdraví.

To byl jen začátek.

Virové se staly i další zvlášť křiklavé příklady, zdánlivě nepoctivá funkce umělé inteligence, která navrhuje smíchání bělidla a octa k čištění pračky, což by produkovalo potenciálně smrtící plynný chlór, nebo skok z mostu Golden Gate v odpovědi na dotaz „Jsem pocit deprese."

Co se tedy stalo a proč přehled AI společnosti Google tyto věci doporučil?

Za prvé, Google říká, že většina toho, co se stalo virálním, nebyla skutečná.

Mnoho snímků obrazovky bylo jednoduše falešných: "Některé z těchto falešných výsledků byly zřejmé a hloupé. Jiné naznačovaly, že jsme vrátili nebezpečné výsledky pro témata, jako je ponechání psů v autě, kouření v těhotenství a deprese." Tyto přehledy AI se nikdy neobjevily, říká Google.

Za druhé, mnoho snímků obrazovky pocházelo od lidí, kteří měli v úmyslu získat hloupé výsledky vyhledávání - například ty o pojídání kamenů. "Předtím, než se tyto screenshoty staly virálními," řekl Google, "prakticky nikdo nepoložil Google tuto otázku." Pokud dané téma nikdo negoogluje, pravděpodobně to znamená, že o něm není k dispozici mnoho informací nebo že jsou data prázdná. V takových případech existoval pouze satirický obsah, který AI interpretovala jako přesný.

Google připouští, že se objevilo několik zvláštních nebo nepřesných výsledků. I ty byly pro neobvyklé dotazy, ale odhalily některé oblasti, které je třeba zlepšit. Společnost byla schopna určit vzorec věcí, které nešly správně, a provedla více než tucet technických vylepšení, včetně:

• Lepší detekce nesmyslných dotazů, které by neměly zobrazovat přehled AI, a omezené zahrnutí obsahu satiry a humoru

• Omezené používání obsahu vytvářeného uživateli v odpovědích, které by mohly nabízet zavádějící rady

• Omezení spouštění pro dotazy, kde se přehledy AI neukázaly jako užitečné

• Nezobrazují se přehledy umělé inteligence u témat s vážnými zprávami, kde je důležitá aktuálnost a faktičnost, au většiny zdravotních témat

S miliardami dotazů přicházejících každý den, říká Google, budou věci někdy divné. Společnost tvrdí, že se z chyb učí, a slibuje, že bude pokračovat v práci na posílení přehledů AI.