Transformace umělé inteligence je dvousečná zbraň. Zde je návod, jak se vyhnout rizikům

CIO této průkopnické výzkumné organizace říká, že iterativní přístup k nově vznikajícím technologiím je nejlepším způsobem, jak vybudovat důvěru v generativní umělou inteligenci.

Nový rok znamená nové zaměření na investice do IT. Technologický analytik Gartner předpovídá, že celosvětové výdaje na IT dosáhnou v roce 2025 5,74 bilionu dolarů, což představuje nárůst o 9,3 % oproti roku 2024. Analytik říká, že průzkumy v oblasti umělé inteligence (Gen AI) pomohou tento nárůst řídit.

Jak používat ChatGPT k psaní:Životopisy |Vzorce aplikace Excel |Eseje |Motivační dopisy
Většina z nás už bude fušovat do Gen AI. Ať už leštíte text, vytváříte fotografie nebo generujete kód, možnosti této technologie vám mohou připadat jako kouzlo.

Musíte dokázat svou hypotézu

James Fleming, CIO v Institutu Francise Cricka, je však jedním z digitálních lídrů, který se nenechá svou organizací unést humbukem.

Řekl ZDNET, že využití nových technologií k podpoře revolučních vědeckých objevů není jednoduché. Tato výzva znamená, že vzestup Gen AI nevedl k zásadnímu posunu v pracovních metodách v jeho přední světové výzkumné organizaci.

"Dělat vědeckou umělou inteligenci, na rozdíl od vytváření veřejně dostupných velkých jazykových modelů, je docela jiná disciplína. Pohybujete se v úzce ohraničeném vědeckém světě, kde musíte dokázat svou hypotézu," řekl.

"Nestačí říct, že jste tam hodili model, který je téměř správný. Většinou to musí být přesně správné za určitých podmínek. A musíte prokázat, že svou práci zakládáte na základním porozumění."

Fleming popsal využití umělé inteligence ve vědě jako "dvousečnou zbraň". I když nově vznikající technologie mohou pomoci urychlit výzkumný proces, jakékoli nové závěry musí být generovány a prezentovány s vysokou mírou jistoty.

"Prokazatelnost je kritická, zejména pokud přemýšlíte o něčem, co má cestu k reálnému dopadu na klinice nebo jako o zdravotnickém zařízení," řekl Fleming.

"Pokud například předložíte inovaci lékaři a řeknete: 'Myslím, že tento nástroj může předpovědět vývoj rakoviny,' řekne: 'Může? Ukaž mi proč.'"

Nicméně, i když je vysvětlitelnost pro vědecký výzkum zásadní, je to zaměření, které je v rozporu s pracovními metodami černé skříňky a halucinacemi mnoha populárních modelů umělé inteligence.

Použití iterativního přístupu

Fleming uvedl, že k demystifikaci vznikajících technologických procesů používá Crick iterativní přístup, aby pomohl svým výzkumníkům sebevědomě přijmout modely umělé inteligence.

"Musíte pomalu a postupně pracovat k cíli," řekl. "Zaujímáme mnohem cílenější přístup, který buduje původ a důvěru od prvního dne."

Crickův inkrementální přístup pomáhá výzkumníkům nasazovat modely umělé inteligence dvěma způsoby.

Za prvé, zlepšení stávajících vědeckých metodologií. Fleming řekl, že institut zde začal svou práci před pěti lety v mikroskopii.

Crickovo mikroskopické zařízení analyzuje kryogenní elektrony a vytváří neuvěřitelně husté a krásné obrazy tkání, buněk a jednotlivých molekul.

Vytvoření pěkného snímku je však jen výchozím bodem. Obraz musí být převeden na data, jako jsou detaily, které mohou pomoci ukázat rozdíly mezi rakovinnou buňkou a buňkou, která rakovinná buňka není.

Flemingův tým iterativně pracoval na tom, aby dokázal, že správné modely mohou rychleji produkovat převratné výsledky výzkumu.

"Modely umělé inteligence mohou za vás udělat spoustu práce, jako je analýza a extrakce funkcí a přeměna obrázku na data, se kterými můžete pracovat a odvodit z nich porozumění," řekl.

Druhou oblastí, kde Crick využívá umělou inteligenci, je kontext objevování, ale úzce ohraničený.

Fleming uvedl příklad práce jedné laboratoře na Parkinsonově chorobě. Výzkumný tým vytvořil klasifikátor, který by mohl identifikovat, kteří pacienti měli onemocnění v populaci kmenových buněk. Výzkumníci však nedokázali vysvětlit proč - a tak pracovali pozpátku, iterativně.

"Po vytrénování modelu pak nastal proces zpětného zkoumání tohoto modelu různými statistickými metodami, aby se řeklo: 'Ve skutečnosti je dominantní věcí elipticita buňky. Jsou více oválné. A byla tam také celá řada dalších funkcí, které pak model extrahoval."

Řekl, že tyto výsledky v izolaci nejsou odpovědí, ale podněcují další linii zkoumání: "'Dobře, morfologie buněk je jiná. Proč tomu tak je? Jaké je naše další kolo experimentů?' A to je místo, kde začíná přicházet iterativní část."

Otestujte a zdokonalte

Fleming uvedl, že pečlivý proces postupného testování a zdokonalování technologií umělé inteligence nyní vede k sofistikovanějšímu přístupu, kdy je více umělých inteligencí spojeno dohromady, aby poháněly důvěryhodné výzkumné programy.

Největší projekt vede Samra Turaljic, jejíž Laboratoř dynamiky rakoviny se zaměřuje na pochopení toho, jak se rakovina ledvin vyvíjí.

Tým používá umělou inteligenci k předpovídání genomické evoluce nádoru z patologických snímků. Fleming uvedl, že toto úsilí zahrnovalo trénování více umělých inteligencí a křížové trénování modelů s genomickými databázemi, které pokrývají 10 let výzkumu.

"Výsledkem je, že vytvoříte něco, co může klinicky předpovědět vývoj ledviny," řekl.

"Ale v každém z těchto procesů pečlivě budujete dílčí komponentu do té míry, že jí můžete důvěřovat, a také pracujete s vrstvami a vrstvami dat a dostáváte se stále blíže k reálnému měřítku populace."

Fleming řekl, že tento superdetailní přístup je důležitý, protože výsledky mohou být ovlivněny biologickými a akvizičními odchylkami, jako jsou různé intenzity skvrny na patologickém sklíčku.

Tento proces krok za krokem dokazuje, že klíčem k rychlejšímu dosahování výsledků umělé inteligence v dlouhodobém horizontu je pomalá a metodická práce v krátkodobém horizontu.

To je perspektiva, ze které se můžeme všichni poučit ve věku umělé inteligence, kde nadsázka dodavatelů naznačuje, že brilantní řešení neřešitelných výzev jsou vzdálena jen jedno kliknutí.

"Začínáme s malým souborem dat, rozumíme mu, prediktivním a funkčním a přinášíme další data," řekl Fleming.

"Když pak přidáme další data, model znovu zdokonalíme. Tento iterativní proces je kritický, protože pokud to neuděláte, nevybudujete si porozumění a původ."