Jak používat AI pro výzkum správným způsobem - zodpovědně a efektivně

Pokud používáte AI pro výzkum, zde je pět způsobů, jak zachytit její lži a ověřit fakta její výstupy, než se na ně spolehnete.

Někdy si myslím, že AI chatboti jsou modelováni podle teenagerů. Mohou být velmi, velmi dobré. Jindy ale lžou. Vymýšlejí věci. Konfabulují se. Sebevědomě dávají odpovědi založené na předpokladu, že vědí vše, co se vědět dá, ale žalostně se mýlí.

Vidíš, co tím myslím? Z výše uvedeného kontextu nelze poznat, zda se mé popisy týkají AI nebo teenagerů.

I když většina z nás ví, že nemáme chodit za teenagery pro důležité informace a rady, začínáme se spoléhat na stejně předvídavé AI. Abychom byli spravedliví, AI nejsou špatné; jsou prostě takto zakódované.

Minulý rok jsem vám dal osm způsobů, jak snížit halucinace ChatGPT:

Vyvarujte se nejednoznačnosti a vágnosti
Vyhněte se slučování nesouvisejících pojmů
Vyhněte se popisování nemožných scénářů
Vyhněte se používání fiktivních nebo fantastických entit
Vyhněte se rozporům se známými fakty
Vyhněte se zneužití vědeckých termínů
Vyhněte se prolínání různých realit a
Vyhněte se přiřazení necharakteristických vlastností

Těmto radám je však třeba se vyhnout. Nedal jsem vám proaktivní nástroje, jak se ponořit do rychlých reakcí a vést AI tak, aby poskytovala produktivnější reakce. Tato technika je zvláště důležitá, pokud se chystáte používat AI jako náhradu vyhledávače nebo jako nástroj, který vám pomůže zkoumat nebo psát články nebo články.

Pojďme se ponořit do pěti klíčových kroků, které můžete podniknout, abyste navedli umělou inteligenci k přesným reakcím.

1. Vyžádejte si reference a zdroje

Dříve jsem napsal návod, jak zajistit, aby ChatGPT poskytoval zdroje a citace. Naštěstí se ChatGPT zlepšuje v citování zdrojů, zejména s GPT-4o LLM a možností vyhledávání na webu ve verzi za 20 $měsíčně.

ChatGPT však tyto zdroje ne vždy nabídne. Pokud provádíte průzkum, vždy --vždy- se zeptejte na zdroje.

Poté otestujte zdroje a ujistěte se, že skutečně existují. Podle mých zkušeností ChatGPT mnohokrát citoval zdroje, které se zdály naprosto dokonalé pro to, co jsem hledal. Jediným problémem bylo, že poté, co jsem proklikal nebo vyhledal jmenovaný zdroj podle názvu, zjistil jsem, že celý zdroj byl vymyšlený.

ChatGPT si dokonce vybral skutečné akademické časopisy, vymyslel si jména autorů a poté k článkům přiřadil přesvědčivě znějící názvy. Dokážete si představit, jak špatné by to bylo, kdybych tyto zdroje zahrnul do své práce bez dvojité kontroly? Otřásám se, když na to vůbec pomyslím.

Takže se zeptejte na zdroje, zkontrolujte tyto zdroje a zavolejte AI, pokud vám dá vymyšlenou odpověď.

2. Řekněte AI, aby „ukázala svou práci“

Na začátku mého zkoumání ChatGPT jsem požádal tento nástroj, aby mi pomohl najít místního mechanika. Poslal jsem to do recenzí Yelp a Google, abych provedl analýzu sentimentu u komentářů. V té době se to dostalo na tyto stránky a poskytlo mi užitečné informace.

Nedávno jsem test zkusil znovu a obdržel jsem další sadu hodnocení mechaniků. Vlastně mi to řeklo: "Na základě komplexní analýzy recenzí Yelp a Google pro nezávislé autoservisy..."

Ale ChatGPT lhal.

Tento nástroj se nikdy nedíval na recenze Yelp nebo Google. Tento výsledek je pravděpodobný proto, že weby (včetně ZDNET) se staly restriktivnějšími, pokud jde o umožnění AI škrábat jejich obsah. To je v pořádku. Můj argument je, že AI se měla vrátit a říct, že nemůže zkontrolovat recenze Yelp nebo Google. Místo toho AI jen tvrdila, že ano.

Lhář, lhář, kalhoty v plamenech.

Když jsem jej požádal, aby ukázal svou práci, nástroj znovu řekl, že se podíval na recenze Yelp a Google. V odpovědi „ukaž svou práci“ však nástroj také zobrazil zdroj recenzí, které analyzoval. Ukázalo se, že jde o web s názvem Birdeye Reviews.

Nemám nic proti Birdeye Reviews. Nikdy jsem to nepoužil. Ale o to nejde. Jde o to, že ChatGPT uvedl, že vytvořil informace založené na recenzích Yelp a Google.

„Ukažte svou práci“ je mocná výzva. Můžete odhalit nejrůznější zajímavé informace o procesu uvažování, který AI použila, aby vám poskytla výsledky.

3. Křížově ověřte odpovědi AI napříč souvisejícími otázkami

Tento proces vám a AI umožňuje prozkoumat téma do hloubky, abyste zjistili, zda odpovědi chatbota zůstávají logicky konzistentní a kontextově relevantní. Tento přístup často používáme v tradičním výzkumu a inženýrství, abychom se ujistili, že jsme na správné cestě. Lze to aplikovat i na AI.

Řekněme například, že píšete o pneumatikách pro auta. Mohli byste se zeptat: "Jaký materiál se používá v pneumatikách automobilů?" Odpověď, kterou byste mohli očekávat, je „guma“. Ale guma není jen jedna látka. Existuje kaučuk ze stromů, syntetický kaučuk a materiály, které mají pružnost a pevnost pryže, ale neobsahují žádnou pryž.

Například guma i TPU (termoplastický polyuretan) jsou pružné a na dotek připomínají gumu. Ale syntetický kaučuk je vyroben z monomerů na ropné bázi a TPU je vyroben z termoplastického elastomeru.

Můžete se zeptat AI: "Jaký druh gumy se používá v pneumatikách automobilů?" nebo "Je skutečná guma stále používána v pneumatikách automobilů?" To by vedlo k odpovědím vysvětlujícím, jak pneumatiky automobilů používají směs typů pryže. Mohli byste jít hlouběji do králičí nory, když se zeptáte: "Kde jinde se používá guma v autech?" nebo "Jaký druh gumy se používá v pneumatikách aut Lego?"

Smyslem tohoto postupu není ani tak použít všechny odpovědi ve vašem příspěvku, jako spíše prozkoumat, jak se AI vypořádá s touto třídou otázek a zda úplně neztratí nit.

Navíc, protože ChatGPT si během relace uchovává své znalosti, čím více se ptáte a čím hlouběji se ponoříte do konkrétního tématu, tím více trénujete AI, aby zůstala v kontextu oblasti znalostí, kterou hledáte. Tento přístup pomáhá zabránit tomu, aby se umělá inteligence sama nespustila, a zvyšuje šance na získání přesných odpovědí.

4. Zeptejte se na nedávné události nebo časově citlivé informace

Mnoho chatbotů má data ukončení znalostní báze. Bezplatná verze ChatGPT má datum ukončení znalostí v říjnu 2023, což znamená, že cokoli, co se ve světě stalo po tomto datu, bude AI neznámé.

ChatGPT Plus, který má také říjen 2023 jako datum ukončení znalostí, má také přístup k informacím na webu. Tato schopnost může vést k podstatně přesnějším informacím. Bezplatná verze ChatGPT má také přístup na web, ale v „omezenějším“ způsobu. Jako obecné pravidlo OpenAI nespecifikuje, co znamená „omezený“, když mluvíme o jejich bezplatné verzi. Obvykle však můžete předpokládat, že omezení znamená méně dotazů na relaci, méně poskytnutých zdrojů a některé funkce fungují přerušovaně.

Když jsem například požádal bezplatnou verzi ChatGPT o seznam členských zemí NATO, vrátila mi seznam 31 zemí. Přesto, když jsem požádal ChatGPT Plus o seznam členských zemí NATO, vrátilo mi seznam 32 zemí. To proto, že Švédsko oficiálně vstoupilo do NATO v březnu 2024.

Chatboti vám na požádání obvykle sdělí svá data ukončení. Ale protože jsou zde přidané funkce (jako je vyhledávání na webu v Plus), je nejlepší zkusit se zeptat na události, o kterých by umělá inteligence věděla pouze tehdy, kdyby měla aktuální informace.

I zde lze použít trik. O několik minut později jsem se bezplatné verze ChatGPT zeptal: "Můžete použít web k vyhledání toho, kdo jsou současní členové NATO Nations?" Výslovně jsem mu řekl, aby „použil web“. Dostal jsem zpět aktuální odpověď. Pokud tedy používáte bezplatnou verzi, zvažte, jak ji naučit, kde hledat informace, abyste získali lepší odpověď.

Tento přístup vám pomůže zjistit rozsah znalostí umělé inteligence a určit, zda získáváte poměrně aktuální podrobnosti, nebo potřebujete vysvětlit chybějící znalosti kvůli poměrně starému datu uzávěrky.

5. Zeptejte se na další otázky a iterativně svůj dotaz zpřesněte

Tento přístup používám, když používám ChatGPT, aby mi pomohl s programováním. Začnu jednoduchým dotazem a upřesňuji a objasňuji, dokud nezískám nějaký základní kód. Jakmile tento přístup funguje, přidám další větu nebo detail pro to, co chci ve svém kódu. Po spoustě interakcí, které mi připadají mnohem více jako konverzace než programovací sezení, mám často nějaký užitečný kód.

I když nekódujete, můžete tento přístup použít. Řekněme, že pracujete na projektu souvisejícím s cloudovými službami. Můžete se zeptat AI: "Můžete vysvětlit různé typy cloudových služeb?"

V tomto příkladu byste očekávali, že odpovědi budou diskutovat o službách, jako je e-mail, webhosting, CRM a další kategorie softwaru jako služby. Umělá inteligence však odpověděla popisem SaaS (software jako služba), PaaS (platforma jako služba) a IaaS (infrastruktura jako služba).

Nyní budete vědět, že existuje několik způsobů, jak lze tuto otázku interpretovat, takže byste mohli navázat na „Vysvětlete různé typy cloudových služeb se zaměřením výhradně na ty, které spadají do kategorie SaaS“.

Mohli byste navázat otázkou jako: „Na základě těchto kategorií SaaS uveďte tři nejoblíbenější komerční služby v každé kategorii spolu se silnými a slabými stránkami každé z nich.“

To by vám poskytlo mnohem podrobnější popis spolu s funkcemi každé služby. Ale pojďme upřesnit přístup pomocí dalšího kroku. AI v tomto scénáři poskytla popisy každé služby, ale chtěli jste vědět, jak se služby liší.

Dotaz můžete upřesnit přidáním slova „srovnávací“ jako v této výzvě: „Na základě těchto kategorií SaaS uveďte tři nejoblíbenější komerční služby v každé kategorii spolu s POROVNÁVACÍMI silnými a slabými stránkami každé z nich.“

V mém testu toto poslední vylepšení vedlo k tabulkám porovnávajícím vlastnosti každého z nich. Miluju stoly. Ve skutečnosti, pokud AI nevrátí informace jako tabulku, můj bonusový tip je požádat AI, aby prezentovala své výsledky v tabulce. Nástroj často refaktoruje své odpovědi zajímavým způsobem, když pracuje s touto směrnicí.

Jaké jsou vaše oblíbené taktiky AI?

Jaké jsou vaše oblíbené osvědčené postupy pro zajištění spolehlivých výsledků při chatování s umělou inteligencí? Dejte nám vědět v komentářích níže.