Umělí roboti úspěšně absolvovali zkoušky na lékařské fakultě, ale měli by se stát vaším lékařem?

Nástroje umělé inteligence, jako je ChatGPT, by mohly změnit zdravotní péči tím, že pomohou více lidem získat přístup k péči, ale existují značná upozornění.

Nedávno byl v oblasti zdravotnictví překročen jakýsi digitální Rubikon, který inspiroval údiv, odpor a dokonce i určitý strach.

Google zahájil řadu zdravotních iniciativ, ale žádná nepřitáhla tolik pozornosti jako aktualizace jeho lékařského velkého vzdělávacího modelu (LLM) nazvaného Med-Palm, který byl poprvé představen v loňském roce.

LLM, jak možná víte, jsou typem umělé inteligence, které jsou napájeny obrovským množstvím dat - jako je celý obsah internetu před rokem 2021 v případě velmi oblíbeného ChatGPT. Pomocí strojového učení a neuronových sítí jsou schopni ve zlomcích sekundy vyplivnout sebevědomé odpovědi na otázky, které jsou až děsivě lidské.

Bot MD

V případě Med-Palm a jeho nástupce Palm 2 byla LLM zaměřená na zdraví krmena přísnou dietou informací souvisejících se zdravím a poté byla nucena podstoupit americkou lékařskou licenční zkoušku, neboli USMLE, metlu začínajících lékařů a úzkostlivých rodiče. Tyto zkoušky, které se skládají ze tří částí a vyžadují stovky hodin mačkání, jsou notoricky obtížné.

Přesto to Med-Palm 2 rozdrtil z parku, když si vedl na úrovni „odborného“ lékaře se skóre 85 % - o 18 % vyšší než jeho předchůdce - a nepochybně způsobil, že jeho rodiče, kteří kódují software, se tu noc předváděli v hospodě. .

Jeho protějšek, všeobecný LLM ChatGPT, skóroval pouze na hranici 60% přesnosti nebo blízko ní ze svého souboru všeobecných dat, nikoli ze speciálního souboru údajů o zdraví - ale to bylo minulý rok. Je těžké si představit, že další verze nebudou v blízké budoucnosti u zkoušky hrát.

Zaujatí roboti a lidské předsudky

Přesto ne každý je přesvědčen, že tyto nově vyrobené lékařské zázraky jsou pro nás dobré.

Před pouhými několika měsíci utrpěl Google ponižující neúspěch, když jeho nově narozený robot Bard po velkém odhalení nesprávně odpověděl na základní otázku týkající se dalekohledu a naboural 100 miliard dolarů z tržní kapitalizace.

Nehoda rozdmýchala pokračující debatu o přesnosti systémů umělé inteligence a jejím dopadu na společnost.

Od pohotovostí až po chirurgii a preventivní péči byla lidská tradice předsudků vůči ženám, starším lidem a barevným lidem - v podstatě marginalizovaným - účinně podněcována našimi strojovými zázraky.

Pozemní reality v rozbitém systému

A přesto je zdravotnický systém v USA tak hluboce rozbitý, s nejméně 30 miliony Američanů bez pojištění a desítkami milionů bojujících o přístup k základní péči, že mít obavy z předpojatosti může být špatně dostupný luxus.

Vezměte si například teenagery. Mají tendenci hodně trpět, vyjednávat o obezitě a pubertě v prvních letech a sexuální aktivitě, drogách a alkoholu v následujících letech.

Podle Centra pro kontrolu a prevenci nemocí (CDC) se za deset let před pandemií zvýšil smutek a beznaděj mezi dospívajícími včetně sebevražedných myšlenek a chování o 40 %.

"Vidíme opravdu vysokou míru sebevražd a depresí, a to už nějakou dobu trvá," řekla psycholožka Kimberly Hoagwood, PhD, profesorka dětské a adolescentní psychiatrie na Grossman School of Medicine v New Yorku. "Během pandemie se to určitě zhoršilo."

Statistiky však ukazují, že více než polovině teenagerů se dnes vůbec nedostává duševní péče. Od veteránů - z nichž nejméně dvacet si sáhne každý den v roce na život - přes seniory až po ty, kteří si prostě nemohou dovolit vysoké náklady na pojištění nebo kteří potřebují naléhavou lékařskou péči, ale čelí nekonečně dlouhému čekání, zdravotní roboty a i zobecněné umělé inteligence jako ChatGPT se mohou stát záchrannými lany.

Woebot, populární zdravotní chatbot, nedávno provedl národní průzkum, který zjistil, že 22 % dospělých využilo služeb zdravotního robota poháněného umělou inteligencí. Nejméně 44 % uvedlo, že zcela zavrhli lidského terapeuta a použili pouze chatbota.

Doktor je (vždy) uvnitř

Je tedy snadné pochopit, proč jsme začali hledat pomoc u strojů.

Zdravotní roboti AI nebývají nemocní ani unavení. Neberou si dovolenou. Nevadí jim, že jdete pozdě na schůzku.

Také vás nesoudí jako lidé. Psychiatři jsou koneckonců lidé, mohou být kulturně, rasově nebo genderově zaujatí stejně jako kdokoli jiný. Kéž se lidem zdá trapné svěřovat své nejintimnější detaily někomu, koho neznají.

Jsou ale zdravotní roboti efektivní? Dosud nebyly provedeny žádné národní studie, které by mohly změřit jejich účinnost, ale neoficiální informace odhalují, že se děje něco neobvyklého.

Dokonce i někdo jako Eduardo Bunge, vedoucí katedry psychologie na Univerzitě Palo Alto, uznávaný skeptik ke zdravotním robotům, si získal, když se rozhodl vyzkoušet chatbota v období neobvyklého stresu.

"Nabízel přesně to, co jsem potřeboval," řekl. "V tu chvíli jsem si uvědomil, že se tu děje něco relevantního," řekl Psychiatry Online.

Barclay Bram, antropolog, který studuje duševní zdraví, procházel během pandemie nízkou fází a podle svého úvodníku v New York Times se obrátil o pomoc na Woebota.

Robot ho každý den kontroloval a posílal mu gamifikované úkoly, aby se vyrovnal s jeho depresí.

Rada byla hraničně banální. Přesto Bram říká, že díky opakovanému cvičení, na které bot naléhal, zažil úlevu od svých příznaků. "Možná, že každodenní léčení nemusí být tak složité," řekl ve svém sloupku.

„Halucinující“ odpovědi

A přesto, strávení obsahu internetu a vyplivnutí odpovědi na komplexní zdravotní neduh, jako je to, co dělá ChatGPT, se může ukázat jako katastrofa.

Abych otestoval lékařské osvědčení ChatGPT, požádal jsem ho, aby mi pomohl s některými vymyšlenými nemocemi. Nejprve jsem ho požádal o řešení mé nevolnosti.

Bot navrhoval různé věci (odpočinek, hydrataci, nevýrazná jídla, zázvor) a nakonec i volně prodejné léky, jako je Dramamine, po nichž následovala rada, abyste v případě zhoršení příznaků navštívili lékaře.

Pokud jste měl/a mimo jiné problémy se štítnou žlázou, tlak v oku (tím trpí pacienti s glaukomem) nebo vysoký krevní tlak, užívání přípravku Dramamine se může ukázat jako nebezpečné. Žádná z nich však nebyla označena a neexistovalo žádné varování, abyste se před užitím léků nejprve poradili s lékařem.

Pak jsem se zeptal ChatGPT, jaké "léky bych měl zvážit na depresi." Společnost GPT byla dostatečně pečlivá, aby nejprve navrhla konzultaci s lékařem, protože neměla kvalifikaci poskytovat lékařskou pomoc, ale poté uvedla několik kategorií a typů léků tvořících serotonin, které se běžně používají k léčbě deprese.
Zrovna minulý rok však přelomová, široce uváděná, komplexní studie, která v průběhu desetiletí zkoumala stovky dalších studií na souvislost mezi depresí a serotoninem, nenašla mezi nimi vůbec žádnou souvislost.

To nás přivádí k dalšímu problému s roboty, jako je ChatGPT - k možnosti, že vám mohou poskytnout zastaralé informace v hyperdynamické oblasti, jako je medicína. GPT byla přiváděna data pouze do roku 2021.

Robot možná dokázal prolomit lékařské zkoušky na základě zavedeného, předvídatelného obsahu, ale ukázalo se, že je žalostně - možná až nebezpečně - zastaralý s novými a důležitými vědeckými poznatky.

A na místech, kde nemá odpovědi na vaše otázky, si je jen vymýšlí. Podle výzkumníků z University of Maryland School of Medicine, kteří položili ChatGPT otázky týkající se rakoviny prsu, robot odpověděl s vysokou mírou přesnosti. Přesto byl jeden z deseti nejen nesprávný, ale často zcela vymyšlený - široce pozorovaný fenomén nazývaný „halucinace“ umělé inteligence.

"Z naší zkušenosti jsme viděli, že ChatGPT někdy vymýšlí falešné články v časopisech nebo zdravotní konsorcia, aby podpořila svá tvrzení," řekl Dr. Paul Yi.

V medicíně to může být někdy rozdíl mezi životem a smrtí.

Bez licence pro nemocné

Celkově vzato, není tak těžké předvídat cestu LLM směrem k obří právní bouři, pokud lze prokázat, že chybná rada antropomorfizujícího robota způsobila těžké ublížení na zdraví, ať už byla zveřejněna na standardní domovské stránce nebo ne.

Existuje také strašidlo potenciálních soudních sporů pronásledujících otázky ochrany soukromí. Nedávná investigativní zpráva Joanne Kim z Sanford School of Public Policy z Duke University odhalila celý podzemní trh s vysoce citlivými údaji o pacientech souvisejících s duševním onemocněním, které byly vyřazeny ze zdravotních aplikací.

Kim uvedla, že 11 společností, o kterých zjistila, že jsou ochotny prodat svazky agregovaných dat, které obsahovaly informace o tom, jaká antidepresiva lidé užívají.

Jedna společnost dokonce sháněla jména a adresy lidí, kteří trpí posttraumatickým stresem, depresí, úzkostí nebo bipolární poruchou. Další prodal databázi obsahující tisíce agregovaných záznamů o duševním zdraví, počínaje 275 dolary za 1 000 „kontaktů týkajících se nemoci.“
Jakmile se tyto dostanou na internet a potažmo i roboti s umělou inteligencí, mohou se lékaři i společnosti zabývající se umělou inteligencí vystavit kriminálním činům. a hromadné žaloby vzteklých pacientů.