New York vytváří koalici pro ukončení předsudků a "rasových norem" v lékařských algoritmech

Bylo prokázáno, že tyto algoritmy mají negativní dopad na péči, kterou dostávají černošští a latinskoameričtí obyvatelé New Yorku.

Město New York oznámilo nedávnou snahu ukončit rasové úpravy v klinických algoritmech používaných městskými nemocnicemi. Odborníci tvrdí, že tyto úpravy udržují rasistické předpoklady ve zdravotnictví a mohou vést k nestandardní péči o menšinové populace. 

Zdravotnická zařízení používají klinické algoritmy, které pomáhají rozhodovat o tom, jak je lékařská péče přidělována pacientům, a mnoho nemocnic používá proces zvaný "rasová normace" - známý také jako přizpůsobení rasy. Bylo prokázáno, že má negativní dopad na péči, kterou dostávají černošští a latinskoameričtí obyvatelé města. 

Oznámení obsahuje příklady reálných situací, které mají dopad na obyvatele města, včetně "přizpůsobovacího" faktoru pro černošské pacienty s odkazem na funkci ledvin. Korekční faktor vypočítává, že úrovně funkce ledvin černochů jsou zdravější než u bílých pacientů při stejném naměřeném výsledku; to vedlo ke zpožděním v péči o černošské pacienty. 

Rasové normy v mateřské péči vedly k tomu, že černoši a Latinoameričané mají větší pravděpodobnost zbytečných císařských řezů - přestože mají "stejný věk, zdravotní stav a historii porodu jako bílé ženy". Tyto algoritmy obecněji vedly k "méně příznivým výsledkům" pro černošské a latinskoamerické ženy, které rodí. zhoršující stávající nerovnosti mezi matkami a zdravím.

K řešení těchto problémů vytvořilo newyorské ministerstvo zdravotnictví koalici, která má ukončit začleňování rasových úprav do klinických algoritmů. 

"Koalice za ukončení rasismu v klinických algoritmech (CERCA) pomůže vést ke zdravějšímu a spravedlivějšímu městu," řekl komisař pro zdraví Dr. Dave Chokshi. 

Zástupkyně komisaře a hlavní lékařka Dr. Michelle Morse dodala: "Zvyšování povědomí o problematickém konceptu a praxi rasového přizpůsobení v klinických algoritmech má potenciál vytvořit spravedlivější výsledky a zkušenosti zdravotní péče pro ty, kteří se identifikují jako černoši, domorodci a barevní lidé (BIPOC)."

Prezident a generální ředitel NYC Health + Hospitals Mitchell Katz uvedl, že městský systém veřejného zdravotnictví se těší na spolupráci s ministerstvem zdravotnictví a dalšími zdravotnickými systémy. 

"Tato koalice má sílu dále urychlit práci a dopad stávající iniciativy "Lékařský eracismus" našeho systému, která si také klade za cíl zpochybnit status quo algoritmů založených na rase... které jsou v našem oboru široce přijímány po celá desetiletí," řekl Katz. 

Mezi instituce zapojené do CERCA patří: NYC Health + Hospitals, Maimonides Medical Center, MountSinai Health System, New-York Presbyterián, Northwell Health, NYU Langone Hospitals, One Brooklyn Health, SBH Health System, SUNY Downstate, Wyckoff Heights Medical Center a Cortelyou Medical Associates. 

Každý z nich uvedl, že "ukončí rasovou úpravu alespoň v jednom klinickém algoritmu a vytvoří plány pro hodnocení rasových nerovností a zapojení pacientů". Plánují se také scházet dvakrát měsíčně po dobu dvou let a vypracují výroční zprávu, z nichž první bude k dispozici v červnu 2022. 

Černošští lékařští experti již dlouho upozorňují na rasismus, který se skrývá za rasovými úpravami používanými v algoritmech, které nemocnice nasazují k léčbě. Dr. Dorothy Robertsová, profesorka afrikaniálních studií, práva a sociologie na Pensylvánské univerzitě, uvedla, že rasové úpravy v medicíně "nejsou založeny pouze na falešných, rasistických přesvědčeních o lidské biologii, ale bylo také prokázáno, že poškozují černošské pacienty". 

Caitlin Seeley Georgeová, ředitelka kampaně v technologické skupině Fight for the Future, uvedla, že rasové úpravy nejsou jen "extrémně odsouzeníhodnou lékařskou praxí založenou na rasistických přesvědčeních", ale jsou také ukázkovým příkladem toho, jak umělá inteligence tyto rasistické přesvědčení zesiluje. 

"Koncept biologických rozdílů založených na rase existoval dlouho před umělou inteligencí, ale tato technologie byla použita jako zbraň, aby tyto rasistické praktiky zhoršila. Existuje tolik algoritmů, které většinou pracují v černé skříňce s malou nebo žádnou transparentností toho, jak se rozhodují. Abychom zbořili rasistické struktury v naší společnosti, musíme otevřít tyto algoritmy, abychom zjistili, jaká další rasistická přesvědčení jsou součástí jejich výpočtů," řekl Seeley George.  

"Potřebujeme, aby tuto práci dělaly všechny naše zdravotnické systémy, potřebujeme legislativu, která zastaví zavádění škodlivých algoritmů, a v New Yorku to musí jít nad rámec jednoho klinického algoritmu (což je jejich současný rozsah). A toto úsilí musí zahrnovat také skutečné lidi, kteří byli těmito algoritmy poškozeni, stejně jako organizace pro lidská práva a odborníky, kteří mohou poskytnout kritický pohled na škodlivost těchto algoritmů na skutečných lidech."

Dr. Danya Glabau, odborná asistentka na NYU Tandon School of Engineering a ředitelka Katedry vědeckých a technologických studií technologie, kultury a společnosti na univerzitě, uvedla, že "algoritmy" v kontextu medicíny mají mnohem delší historii než počítačové systémy, které se rada snaží reformovat. 

Lékařské algoritmy jsou podle Glabaua v podstatě jakýkoli druh rozhodovacího stromu, který lékaři používají k rozhodování o léčbě, a používání nepočítačových lékařských algoritmů je po desetiletí základním kamenem medicíny založené na důkazech. 

Automatizované algoritmy však ve větší či menší míře odstraňují úsudek lékaře z rozhodnutí o léčbě, protože rozhodnutí činí počítač. Když byly digitální algoritmy zavedeny, myslelo se, že odstranění lidí odstraní lidský rasismus, vysvětlil Glabau.

"Protože jsou však rozhodnutí automatizovaných algoritmů založena na datech z minulých lidských rozhodnutí, lidské předsudky, jako je rasismus a třídní příslušnost, se do těchto nástrojů stále promítají. Takže ve skutečnosti nevyřeší problém rasismu sami o sobě, protože historie medicíny je rasistická," řekl Glabau. 

"Je těžké přesně říci, jak rozšířené jsou digitální algoritmy a kolik z nich se zaměřuje konkrétně na rasu. Je však pravděpodobné, že většina poskytovatelů jich používá několik denně a může nebo nemusí si toho být vědoma." 

Výzkumníci jako Amy Moran-Thomas ukázali, že i jednoduchá zařízení, jako jsou pulzní oxymetry, mohou mít rasistické výsledky. 

"V tomto případě konstruktéři jednoduše nevzali v úvahu, jak barva pleti ovlivní hodnoty udávané optickým senzorem. Víme také, že nástroje jako plánovací software mohou mít rasistické výsledky, i když se zdá, že plánování nemá nic společného s rasou. Ale zejména černošští pacienti byli dvakrát nebo třikrát rezervováni, protože mnozí měli potíže dostat se včas na schůzku kvůli faktorům mimo jejich kontrolu," řekl Glabau. 

"Tyto příklady ukazují, jak ošidné může být předvídat, jak algoritmické a další digitální systémy budou mít rasistické výsledky. Ve městě, jako je New York, kde COVID tvrdě zasáhl komunity BIPOC a kde poštovní směrovací číslo koreluje s příjmovou a rasovou segregací, mohou mít takové zdánlivě všední technologie významné důsledky pro zdraví."

Ale jediný způsob, jak může rada uspět, je, že jí bude poskytnut plný přístup k operacím nemocničního systému, softwaru a technické dokumentaci od společností, které algoritmy vyrábějí, dodal Glabau. Rada také musí mít pravomoc vydávat závazné pokyny, které mohou být implementovány v celém městě. 

"Pokud tato rada nedostane zuby, může najít šokující informace nebo vydat dobře míněná doporučení, ale pro pacienty to nic nezmění ani nesplní její antirasistický mandát," vysvětlil Glabau. 

Glabau rozsáhle psal o tom, jak mohou mít všední technologie významný vliv na zdravotní výsledky.