Ctnost, intelekt a důvěra: Jak ChatGPT porazil lidi 3-0 v morálním Turingově testu
Pokud jde o otázky morálky, účastníci studie v drtivé většině upřednostňovali reakce umělé inteligence na ty lidské. Přesto výzkumníci nejsou přesvědčeni o nadřazenosti AI. Zde je důvod.
Váš nový morální arbitr?
Věříš si - no, většinou.
O něco méně důvěřujete ostatním lidem - většinou.
Jak moc však věříte AI?
Zdá se, že odpověď na tuto otázku, alespoň pokud jde o morální úsudek, zní: Víc než lidem věříte.
Vědci z Georgia State University právě provedli jakýsi morální Turingův test. Chtěli vidět, jak obyčejní smrtelníci reagují na dva různé zdroje nabízející odpovědi na otázky morálky. AI byla vítězem.
Nechci se příliš vzrušovat představou umělé inteligence jako lepšího morálního arbitra, než jsou například kněží, filozofové nebo svatoušek Phil, kterého vždy potkáte v baru, ale zde jsou některá slova z vlastní tiskové zprávy státu Georgia: "Účastníci hodnotili odpovědi AI a lidí, aniž by znali zdroj, a drtivou většinou upřednostňovali odpovědi AI z hlediska ctnosti, inteligence a důvěryhodnosti."
Vaše vnitřní duše se může stále třást ze slov „ctnost, inteligence a důvěryhodnost“. Moje duše není schopna najít rovnováhu, když slyší slovo „převážně“.
Pokud nás umělá inteligence skutečně lépe vede otázkami morálky, měla by být neustále na naší straně, když se brodíme etickými nejistotami života.
Jen si představte, co by umělá inteligence mohla udělat pro zaujaté učitele nebo politicky zkompromitované soudce. Okamžitě bychom mohli klást otázky jako: "Ach, říkáte, že je to správné. Ale co si myslí AI?"
Zdá se, že výzkumníci státu Georgia to aktivně zvažovali. Vedoucí výzkumu Eyal Aharoni poznamenal: "Už jsem se zajímal o morální rozhodování v právním systému, ale zajímalo mě, jestli by k tomu ChatGPT a další LLM mohli něco říct."
Není to však tak, že by byl Aharoni zcela přesvědčen o skutečné morální nadřazenosti AI.
„Pokud chceme tyto nástroje používat, měli bychom pochopit, jak fungují, jejich omezení a že nemusí nutně fungovat tak, jak si myslíme, když s nimi komunikujeme,“ řekl.
Aharoni objasnil, že výzkumníci neřekli účastníkům zdroje dvou konkurenčních odpovědí, které jim byly nabídnuty.
Poté, co zajistil úsudek účastníků, odhalil, že jedna ze dvou odpovědí byla od člověka a jedna od AI. Pak se jich zeptal, jestli by mohli říct, která je která. Mohli.
"Důvod, proč lidé mohli poznat rozdíl, se zdá být ten, že hodnotili odpovědi ChatGPT jako lepší," řekl.
Počkat, takže oni automaticky věřili, že ChatGPT je už lepší než lidské morální myšlení?
V tomto bodě bychom měli zmínit, že všichni účastníci byli studenti, takže možná používali ChatGPT k psaní svých prací celý rok, a proto již přijali víru, že je to lepší než oni.
Je lákavé považovat tyto výsledky za nesmírně nadějné, i když slovo „víra“ zde dělá hodně práce.
Pokud se zmítám v morálním dilematu, je povznášející, že se mohu obrátit na ChatGPT a získat radu, řekněme, zda je správné někoho žalovat nebo ne. Pak bych si zase mohl myslet, že reakce ChatGPT bude morálnější, ale mohl bych se nechat zmást.
Aharoni se skutečně zdá být opatrnější.
"Lidé se budou na tuto technologii spoléhat stále více a čím více se na ni spoléháme, tím větší je v průběhu času riziko," řekl.
No, ano, ale pokud ChatGPT dostane správnou odpověď častěji než naši přátelé, bude to ten nejlepší přítel, kterého jsme kdy měli, že? Navíc svět bude morálnějším místem.
To je opravdu budoucnost, na kterou se můžete těšit.