AI vyhledávače nemohou uspět bez důvěry a já žádnou nemám

Klíčové věci

Generativní vyhledávače AI mohou nabídnout užitečné odpovědi, ale důvěra je kvůli nepředvídatelnosti významným problémem.
Lidský dohled zůstává ve výsledcích vyhledávání zásadní pro zajištění důvěry a přesnosti.
I v případě pokročilé umělé inteligence je důvěra v technologii důležitější než čísla výkonu.

Generativní umělá inteligence, alespoň na špici, je účinná při hledání, trávení a prezentaci informací užitečným způsobem pro ty, kteří hledají odpovědi. Můžeme však této technologii skutečně věřit tak, jak je? Mohli bychom tomu v zásadě někdy věřit?

Generativní vyhledávače AI dávají znepokojivé výsledky

Zdá se, že každý přidává AI do svých vyhledávacích produktů. Některé, jako je Perplexity AI, postavili celý svůj systém na generativní umělé inteligenci a velkých jazykových modelech (LLM). Zavedené vyhledávací organizace, zejména Bing a Google, přidaly tyto technologie do svých stávajících vyhledávačů.

Například Google nyní nabízí souhrny AI, kde LLM bude číst webové stránky, takže vy nemusíte, a dá vám přímou odpověď na vaši otázku. Odhlédneme-li od toho, jak to omezuje skutečné webové stránky, které produkují obsah, ze smyčky, když to funguje, je to úžasně užitečné. Stejně jako jsou však chatboti s umělou inteligencí náchylní k „halucinacím“ nebo chybám v logice a uvažování, vyhledávání pomocí umělé inteligence se může stát obětí stejných problémů.

To vedlo k tomu, že umělá inteligence pro vyhledávání Google navrhuje věci jako přidání lepidla na pizzu a pojídání kamenů a že na Měsíci jsou kočky. Google se rychle snaží tyto chyby odstraňovat, ale to neřeší základní problém - důvěru.

Někdo musí být zodpovědný za informace ve výsledcích vyhledávání

Věřte tomu nebo ne, jsem skutečná lidská bytost, která sedí u této klávesnice a píšu slova, která budete číst. To znamená, že pokud si zde přečtete něco, co nedává smysl, je nepravdivé nebo by mohlo způsobit škodu, máte někoho, kdo za to může převzít odpovědnost. Stejně tak, pokud použiji informace například z Associated Press a v tomto materiálu jsou závažné faktické chyby, mám regresi, protože se někde dole zmýlila lidská bytost nebo se něco pokazilo, aby problém vysvětlil.

Víme, jak byly informace vytvořeny, a víme, kdo byl zodpovědný. Nedbalost má své důsledky a existují systémy (jako jsou lidští redaktoři a redakční zásady), jejichž cílem je zachytit problémy před jejich zveřejněním. Samozřejmě, že žádný z těchto systémů není spolehlivý, ale vždy je někdo zodpovědný.

Generativní systémy umělé inteligence jsou zatím náchylné k chování, které ani jejich tvůrci nedokážou předvídat. Tyto modely s miliardami nebo dokonce biliony parametrů jsou jako černé skříňky, kde nikdo přesně neví, co se uvnitř děje. To je také důvod, proč mají tolik slibů a moci, ale to znamená, že je těžké vytvořit bezpečné a důvěryhodné řešení.

I když něco jako Gemini od Googlu bylo z 99 % přesné a důvěryhodné, stále máme problém. Samozřejmě, že sami lidé jsou jen zřídka tak spolehliví, ale také zřídka máme rychlost a rozsah, aby naše chyby způsobily potenciálně masivní škody. Vezměte si, že Google zpracovává přibližně 8,5 miliardy vyhledávání denně. Pokud pouze 1 % z těchto vyhledávání obsahovalo potenciálně škodlivé informace nebo rady, stále to znamená, že 85 milionů lidí je krmeno něčím problematickým. Každý den!

Jinými slovy, standardy vyžadované pro systémy, jako jsou tyto, aby poskytovaly rady a informace bez jakéhokoli člověka ve smyčce, jsou tak vysoké, že to může být ve skutečnosti nemožné.

Pokud lidé nedůvěřují výsledkům vyhledávání AI, na technologiích nezáleží

O výkonnostních číslech těchto AI systémů se však můžeme bavit celý den a nebude na tom nic, pokud nebudou vnímány jako důvěryhodné. Existuje mnoho slibných technologií, které byly zablokovány kvůli nedostatku důvěry veřejnosti. Jaderné havárie způsobily, že lidé se obávali jaderné energie. Hindenburgova tragédie zasadila vzducholodě poslední hřebíček do rakve, i když přechod na helium z vodíku by znemožnil její opakování. Jakmile je vaše technologie vnímána jako nedůvěryhodná, může být téměř nemožné toto vnímání napravit, i když problémy skutečně vyřešíte.

Udržet lidi ve smyčce je nevyhnutelné bez ohledu na to, jak se chytré stroje dostanou

Bez ohledu na to, jak dobré jsou technologie umělé inteligence, nikdy nemohou být natolik dobré, aby ospravedlnily úplné odstranění lidského dohledu. Ne proto, že lidé budou nutně dělat lepší práci, ale protože věřím, že jim lidé nikdy nebudou zcela důvěřovat. Máme tendenci se zaměřovat spíše na výjimky než na pravidlo, a proto lidé hrají loterii!

Nakonec si tvůrci systémů, jako jsou tyto, nemohou mýt ruce zodpovědnosti, když tyto systémy způsobí škodu. Peníze se někde musí zastavit a lidé budou muset být nějakým způsobem zodpovědní. Jednotlivé webové stránky mohou být zodpovědné za svůj obsah, a dokud se nenadálé, vyhledávače odvedly dobrou práci a umístily nejdůvěryhodnější stránky na začátek seznamu. Je to ctnostný cyklus, kdy se snažíme poskytovat nejkvalitnější a nejdůvěryhodnější obsah, jaký můžeme, a vyhledávače nás odměňují návštěvností, která financuje další obsah a tak dále.