Průlom AI umožňuje vědcům číst římské svitky, které kdysi pohřbil Vesuv

ZDNET In Depth: Vydejte se na 20letou cestu za dekódováním svitků Herculanea, zuhelnatělých historickou sopečnou erupcí před dvěma tisíci lety - a dosud nečitelné.

Svitek Herculaneum s červenými laserovými čarami skenovaný v Institut de France Brentem Sealesem a jeho týmem.

Po historické erupci sopky, dvou tisíciletích a mezinárodním úsilí využít umělou inteligenci ke čtení sady tajemných starověkých svitků vědci vědí, co měl na mysli přinejmenším jeden římský epikurejský filozof: jídlo.

Lidé, i když jsou plní překvapení, mohou být roztomile předvídatelní.

Odhalení přichází jako vyvrcholení Vesuvius Challenge - soutěže, kterou v březnu 2023 zahájili výzkumník z University of Kentucky Brent Seales, bývalý generální ředitel GitHub Nat Friedman a podnikatel a investor Daniel Gross. Cílem bylo pořídit počítačové tomografické (CT) skeny toho, co je známé jako svitky Herculaneum, stejně jako software založený na strojovém učení a dát je do rukou technicky zdatných detektivů z celého světa v naději, že někdo dokáže svitky přečíst. aniž byste se jich vůbec dotkli.

S podporou Silicon Valley organizátoři věnovali finanční odměny za pokrok ve snaze přečíst písmo, které bylo kdysi pohřbeno a zuhelnatělo při erupci Vesuvu. To zahrnovalo 700 000 dolarů, které se rozdělí mezi vítězný tým tří: Youssef Nader, Luke Farritor a Julian Schilliger - všichni studenti. Předložili 15 sloupců textu, z nichž předběžná analýza naznačuje, že obsahuje psaní o tom, zda nedostatek nebo nadbytek zboží, jako je jídlo, ovlivňuje to, jak příjemné je lidé považují.

Vesuvius Challenge představuje klíčový okamžik ve snaze dostat se dovnitř svitků. Je to také velký okamžik pro Sealese, výzkumníka z University of Kentucky - snaží se toho dosáhnout v posledních dvou desetiletích.

Seales a různé inkarnace jeho týmu nikdy nebyli blíže čtení pokladu textů. Svým způsobem na uzávěrce soutěže 31. prosince vlastně nezáleželo. Výzva, jak z hlediska hlavní ceny, tak z hlediska samotné hádanky, vzbudila zájem a naverbovala nové spolupracovníky, jejichž přínos Seales porovnal s přibližně 10 lety lidské práce za pouhé první tři měsíce.

"Je ohromující cítit tento druh vykupitelské síly, kterou nyní můžeme mít díky umělé inteligenci, tomografii a výpočtům," řekl Seales v rozhovoru před vyhlášením hlavní ceny.

Mohlo by se zdát, že je toho hodně, ale Michael McOsker, výzkumník, který svitky studoval, odhaduje, že všechny tyto snahy by mohly přinést asi 200 nových knih. Sbírka je také jedinou dochovanou knihovnou ze starověku.

"Máme pravděpodobně méně než 1 %... veškeré literatury, která byla napsána," řekl. "Jakýkoli zisk v našich znalostech je důležitý."

Historie rozbalena

Brent Seales a Seth Parker (vedoucí projektu Digital Restoration Initiative) skenují repliku svitku Herculaneum v kampusu University of Kentucky.

Seales neměl v úmyslu strávit dvě desetiletí rozbalováním starých textů. Původem ze západního New Yorku byl specialistou na zobrazování se zájmem o umělou inteligenci. Problém: tehdy se toho s AI moc nedělo. Počítačové vidění se však zdálo jako jedna z oblastí, kde došlo k pokroku.

V polovině 90. let se setkal s profesorem na univerzitě v Kentucky, který pracoval na rukopisu anglosaské epické básně Beowulf v době, kdy byl tlak na digitalizaci knihoven. Po přečtení Beowulfa na střední škole, stejně jako u mnoha dětí, Sealesův zájem vzbudil zájem. Přemýšlel o síle digitalizace tohoto jediného textu -- jediného dochovaného rukopisu, který je svědkem příběhu.

Digitalizace přešla v restaurování. Jakmile byl text digitální, mohla být kvalita obrazu zlepšena. Pouhým vytvořením kopie nemusel být konec. A když mohli digitálně srovnat pomačkaný dokument, proč by ho nemohli také rozvinout?

"Vymysleli jsme myšlenku úplně něco rozbalit, než jsme věděli o věcech, které se chystáme skutečně rozbalit," řekl Seales.

V roce 2004 Seales konečně našel něco, co by mohl rozbalit, když mu odborník na klasiku z University of Michigan jménem Richard Janko řekl, že našel ideální řešení.

Vstup: Herculaneum se posouvá.

Řecké znaky, πορφύραc, odhalené jako slovo „PURPLE“, jsou mezi mnoha znaky a řádky textu, které vytáhl soutěžící Vesuvius Challenge Luke Farritor.

Kopání minulosti

V moderní době by erupce Vesuvu mohla vzbudit v mysli obrazy těch těl pohřbených v popela, která se navzájem držela, když jejich svět skončil. Je to historická událost, která je zároveň fascinující, tragická a dokonce i trochu strašidelná.

Jediná zpráva z té doby pochází z dopisů římského autora a právníka Plinia Mladšího, který popisoval zpanikařené davy a „hustý černý mrak“, který pohltil zemi jako povodeň.

"Někteří lidé byli tak vyděšení ze smrti, že se ve skutečnosti modlili za smrt," napsal.

Když se mrak prořídl natolik, že dovnitř propustil denní světlo, Plinius mladší viděl, že je vše pohřbeno hluboko v popelu, který mu připomínal sníh.

V Herculaneu - městě zhruba 10 mil západně od Pompejí a ještě blíže k erupci sopky - všechen padající popel a trosky pohřbily vilu, kterou kdysi vlastnil tchán Julia Caesara. Vyobrazení panství ukazuje obří nádvoří, zahrady a oblouky. Podstatné je, že ve vile byla také knihovna papyrusových svitků.

Zatímco asi 65 stop horkého popela se může zdát jako nejhorší možný výsledek pro papyrus, teplo svitky karbonizovalo a chránilo je před přirozenými zhoršujícími se účinky vzduchu.

Až v roce 1700 farmář při kopání studny narazil na mramor a zahájil vykopávky, které odhalily více než 600 neotevřených svitků. (Přesný počet papyrů Herculaneum je těžké určit, řekl Seales, vzhledem k tomu, zda výzkumníci počítají fragmenty a částečné kusy. Někteří odhadují počet až na 1800.)

Svitky přešly do péče Antonia Piaggia, učence z Vatikánské knihovny, který vynalezl stroj na rozbalení některých zachovalejších svitků. Piaggio nebyl vždy úspěšný.

To, co bylo rozbaleno, obsahovalo především epikurejskou filozofii, což vedlo McOskera k přesvědčení, že zbývající svitky mohou být stejné povahy. Možná nepřepisují způsob, jakým učenci pohlížejí na starověký svět, ale vzhledem k nedostatku písem z té doby by dalších 200 knih mohlo být slušným úlovkem.

Není to "experiment"

Dnes jsou svitky umístěny na několika místech po celé Evropě, většina z nich se nachází v Národní knihovně v Neapoli v Itálii.

Není divu, že většina lidí nemůže vejít dovnitř a hýčkat se s křehkými 2000 let starými svitky. Sealesovi trvalo roky budování případu prostřednictvím financování, úspěchu na jiných projektech a akademické diplomacie, než získal přístup.

Seales, který měl zkušenosti s chirurgickými inovacemi, jako je laparoskopie, chtěl použít počítačovou tomografii ke skenování svitků a poté vytvořit software, který by tyto skeny zabalil.

V roce 2005 měl Seales příležitost podělit se o svůj nápad na přednášce v Oxfordu. Do té doby on a jeho tým dali dohromady příklad papyru zasazeného do polyuretanové koule, kterou naskenovali a prakticky rozbalili.

"Bylo to něco jako debutantka, která sestoupila po schodech v šatech a řekla: 'pojď si se mnou zatancovat'," řekl Seales.

Odezva byla pozitivní, ale uším ochranných konzervátorů to stále znělo jako experiment a „experiment“ je sprosté slovo, když se použije na něco tak vzácného a starého.

Po čtyřech letech tvrdé práce, budování vztahů a některých jemností v roce 2009 Seales a jeho tým odcestovali do Institut de France, aby provedli své první mikro-CT skeny papyrů.

"Byl jsem zároveň vyděšený a také neuvěřitelně vzrušený," řekl Seales. Svitky byly malé a vypadaly jako dřevěné uhlí. "Říkají vám, že je to celá kniha ze starověku... a je to jen taková malá drobnost, protože se smrštila, když karbonizovala."

Jak velký úspěch bylo získat konečně skeny svitků, Seales se snažil přimět software, aby fungoval tak, jak tým chtěl.

Pokud nechtěli okamžitě rozlousknout svitky Herculanea, potřebovali vystřelit další gól.

Odstraňování problémů

Říci, že Seales pracuje na svitcích Herculanea 20 let, by mohlo znít, jako by každý den chodil do kanceláře a odcházel z ní s tímto jedinečným zaměřením.

Ve skutečnosti byly chvíle, kdy tým nemohl pracovat na svitcích, nebo pracoval na digitálním skenování a rozbalování jiných textů, které jim nějakým způsobem stále pomáhaly přiblížit se jejich konečnému cíli.

V roce 2006 Sealeův tým rozbalil středověkou kopii Knihy Kazatel napsané v hebrejštině. O rok později, v roce 2007, byl Seales v týmu, který odjel do Benátek digitalizovat nejstarší kompletní kopii Homerovy Iliady.

Svitek Herculanea je snímán u diamantového světelného zdroje uvnitř jeho skenovacího pouzdra.

"Každý z těch projektů, které jsem po cestě udělal, ve mně jako výzkumníkovi vybudoval trochu důvěryhodnosti a určité znalosti ve mně, abych mohl oslovit osoby s rozhodovací pravomocí v těchto muzeích a knihovnách, abych si s nimi popovídal," řekl. Dokonce se naučil dost francouzsky, aby mohl mluvit s výzkumníky v Paříži.

Přesto v roce 2012 byl tlak na Herculaneum trochu v útlumu. Příští rok si Seales vzal volno a strávil rok v Paříži jako hostující vědec v Kulturním institutu Google. Dalo mu to šanci obnovit sebevědomí a získat infuzi nových lidí a nových nápadů, právě když se Google chystal získat výzkumnou laboratoř AI DeepMind.

Přibližně v té době Seales začal prosazovat myšlenku skenování uvnitř urychlovače částic, což by výrazně zvýšilo rozlišení obrázků.

Resetování bylo užitečné, protože technická výzva čtení svitků zůstala ožehavá.

Jedním z hlavních problémů bylo něco, čemu se říká segmentace. Přestože jsou svitky poměrně malé, skeny jsou podrobné. Technický vedoucí Stephen Parsons, který nejprve spolupracoval se Sealesem jako student na univerzitě v Kentucky, popsal snahu digitálně oddělit vrstvy částečně rozdrceného papyru a síť vláken viditelných na snímcích. Přirovnal to k tomu, jak by mohl vypadat průřez kládou, ale poněkud rozbitý.

Další výzvou bylo skutečně přečíst inkoust na papyru. Parsons řekl, že nejlepší zobrazovací technologií, kterou mají uvnitř svitků vidět, je rentgenové mikro CT. problém? Není dostatečný kontrast, aby bylo možné přečíst inkoust.

Svitky Herculanea byly napsány s tím, co byly v podstatě saze z olejových lamp, což je chemicky téměř čistý uhlík. Protože papyrus je také chemicky uhlík, tým zjistil, že se dívá na šedou na šedou.

Jiné projekty, jako je svitek En-Gedi v roce 2016 - nejstarší svitek Pentateuchal (týkající se prvních pěti knih Bible) od svitků od Mrtvého moře, jehož úspěšné digitální rozbalení bylo pro Sealesův tým významným milníkem - používaly inkoust. se železem v něm, které se projevuje na světlých místech rentgenového záření.

Parsons řekl, že předpokládali, že stále může existovat nějaký zjistitelný rozdíl. Přirovnal to k černě natřeným čarám na asfaltu. Možná by se dal vycvičit model strojového učení, aby viděl inkoust.

Trvalo roky práce, testování nápadu na svitcích, které vyrobili, a fragmentech svitků Herculaneum, které se odlomily a odhalily jejich písmo, než se dostali do bodu, kdy byli schopni přečíst dva znaky z vrstev hluboko uvnitř svitku.

"V tu chvíli to bylo jasné. I když vývoj trvá mnoho let, než se zdokonalí... tento přístup nakonec přinese ovoce," řekl Parsons. O rok později ano.

Problém se softwarem

Segmentace a detekce inkoustu se zmiňují o tom, že získávání skenů bylo pouze součástí celkové výzvy svitků. Sbírat data a třídit je algoritmicky byla úplně jiná cesta.

Po několika iteracích vytvořil Sealesův tým Volume Cartographer, napsaný primárně vedoucím projektu Sethem Parkerem, který se k týmu připojil v roce 2012. Jde o software s otevřeným zdrojovým kódem používaný k mapování vnitřku svitků a pochopení smyslu „plovoucí slovní polévky, “ jak řekl Parker.

12 pezzi neboli „kousků“ otevřeného svitku papyru Herculaneum známého jako P.Herc.118. Kompilaci obrázků vlastní Bodleian Library na univerzitě v Oxfordu.

Parker začal svou kariéru jako video editor pracující na výzkumných dokumentech. Pracoval se Sealesem, a když člen týmu odešel a Seales potřeboval někoho, kdo se vyzná v kamerách a pořizování snímků, naverboval Parkera. Kdysi vystudoval média a komunikaci, obrátil se k Ph.D. v informatice.

Dostává také další pomoc s Volume Cartographer od lidí najatých Vesuvius Challenge, kteří se propracovávají seznamem přání oprav chyb.

Vytvoření soutěže Vesuvius Challenge znamenalo otevřít roky práce neznámé globální pracovní síle. Parsons odhadl, že více než 1 000 lidí na projektu pracovalo větší část roku - něco, co je děsivé i vzrušující, řekl.

Koneckonců to byli studenti informatiky, kteří v říjnu poprvé objevili slovo „fialová“.

Pokračujte v rolování

I když je 15 sloupců textu více, než Seales očekával, není to stěží konec příběhu.

Když se podíváme dále, jak Parker, tak Parsons si myslí, že jejich práce by mohla inspirovat i další obory, které využívají dimenzionální zobrazování.

CT vyšetření a magnetická rezonance jsou již mocné, ale co když se před pouhýma očima lékařů stále skrývají informace, které by mohly zlepšit detekci nádorů a podobně?

"Existují způsoby, jak tato data transformovat, aby byla lépe interpretovatelná pro člověka," řekl Parker.

"Není důvod zpomalovat. Pojďme si přečíst celou knihovnu," řekl student a člen týmu Luke Farritor.

A stále jsou k přečtení staré texty. Současně pracují na středověkém rukopisu z Morganovy knihovny - koptském evangeliu, jehož stránky jsou srostlé. Udělali několik CT skenů a znovu se snaží prakticky rozmotat to, co je napsáno uvnitř.

Krátkodobým cílem pro rok 2024 je přečíst 90 % svitku, který Nader, Farritor a Schilliger začali. A ano, na řadě budou další prize money.

"Právě teď slavíme, ale není důvod zpomalovat. Pojďme si přečíst celou knihovnu!" Farritor uvedl v prohlášení.

Pro Parsonse je něco hlubokého na práci na těchto textech a představě lidí před 2000 lety, kteří je napsali - lidé, kteří by nikdy nikoho neuhodli v roce 2024, by se tak zajímali o to, co řekli, a rozhodně nemohli pojatý o technologii stojící za tímto úsilím. Dokonce i dnes by většina lidí pravděpodobně měla problém definovat „strojové učení“.

"Celý ten čas uplynul a tato část této cesty se dostala ke mně a k obrazovce mého počítače," řekl Parsons. "To je docela ponižující."

Po všech těch letech Seales ví, jak důležitá je tato linie lidstva. Starověké texty hovoří o lásce, válce, hudbě, rétorice, poezii - o tématech, která se dodnes trápí. A jídlo, samozřejmě.

"Zralý intelektuální dialog, který se vyskytuje v těchto starověkých rukopisech, je zřetelně lidský. Umět vyprávět příběhy je zřetelně lidské," řekl Seales.

Seales si představuje, že možná dosáhne 2000 let zpět, zbaven všech současných náboženských, politických nebo jakýchkoli jiných hranic, a existuje způsob, jak se sjednotit kolem toho, co to znamená být člověkem.

"Musíme si to přečíst," řekl Seales. "Musíme to nastudovat. Nemůžeme na to zapomenout."