Pokud se váš kód vygenerovaný umělou inteligencí pokazí, kdo čelí největší odpovědnosti?

Formální dokument GPT-4 OpenAI se rozchází s praxí umělé inteligence zveřejňovat technické detaily programu.

Společným tématem výzkumu umělé inteligence je zveřejňování technických podrobností o softwaru ve výzkumných dokumentech, aby ostatní v oboru mohli programům porozumět a učit se z nich.

Tato tradice překročila práh v úterý vydáním programu OpenAI GPT-4, nejnovější technologie v řadě programů, které tvoří srdce velmi oblíbeného chatbota ChatGPT.

V technické zprávě GPT-4 zveřejněné v úterý spolu s blogovým příspěvkem OpenAI společnost uvádí, že se zdržuje poskytování technických podrobností kvůli konkurenčním a bezpečnostním úvahám.

„Vzhledem ke konkurenčnímu prostředí a bezpečnostním důsledkům velkých modelů, jako je GPT-4,“ píše, „tato zpráva neobsahuje žádné další podrobnosti o architektuře (včetně velikosti modelu), hardwaru, trénovacích výpočtech, konstrukci datové sady, metodě školení. , nebo podobně."

Termín "architektura" se vztahuje k základní konstrukci programu AI, jak jsou jeho umělé neurony uspořádány, a je základním prvkem jakéhokoli programu AI. „Velikost“ programu je to, kolik neuronových „váh“ neboli parametrů používá, což je klíčový prvek odlišující jeden program od druhého.

Bez takových detailů je program GPT-4 úplnou záhadou. Výzkumný dokument v tomto smyslu neodhaluje žádný z výzkumů.

Článek nabízí pouze dvě věty popisující velmi široce, jak je program konstruován.

"GPT-4 je model ve stylu Transformeru předem vycvičený k predikci dalšího tokenu v dokumentu, a to jak pomocí veřejně dostupných dat (jako jsou internetová data), tak dat licencovaných od poskytovatelů třetích stran. Model byl poté doladěn pomocí Posílení učení z lidské zpětné vazby."

Ani jedna věta nenabízí nic, co by náhodného pozorovatele o programu již nenapadlo.

Nedostatek odhalení znamená rozchod se zvyky většiny výzkumníků v oblasti umělé inteligence. Jiné výzkumné laboratoře často zveřejňují nejen podrobné technické informace, ale také zdrojový kód, aby ostatní výzkumníci mohli duplikovat své výsledky.

Nedostatek zveřejňování je navíc v rozporu i s omezenými zvyklostmi OpenAI v oblasti zveřejňování.

GPT-4, jak jeho název napovídá, je čtvrtou verzí toho, co je známé jako „generativní předtrénovaný transformátor“, programu vytvořeného pro manipulaci s lidským jazykem. Když v roce 2018 debutovala úplně první verze programu, OpenAI nenabízel zdrojový kód. Společnost však podrobně popsala, jak skládala různé pracovní části GPT-1, jeho architekturu.

Toto technické odhalení umožnilo mnoha výzkumníkům uvažovat o fungování programu, i když nemohli duplikovat jeho konstrukci.

GPT-1 byl vysvětlen v roce 2018 v systémovém diagramu, který výzkumníkům umožnil pochopit klíčové vlastnosti programu. Žádný takový popis se neobjevuje v technickém dokumentu GPT-4 a ani žádné popisné fráze neprozrazují jeho architekturu nebo jiné klíčové vlastnosti.

S GPT-2, vydaným 14. února 2019, OpenAI nejenže nenabízela zdrojový kód, ale také omezovala distribuci hotového programu. Společnost zdůraznila, že možnosti programu jsou příliš extrémní na to, aby riskovaly, že jeho uvolnění umožní zlomyslným stranám používat program pro zhoubné účely.

"Vzhledem k našim obavám ze škodlivých aplikací této technologie neuvolňujeme trénovaný model," řekl OpenAI.

I když nevydali kód ani trénované modely, výzkumníci OpenAI Alec Radford a tým popsali poněkud méně podrobně než předchozí verze, jak upravili první GPT.

V roce 2020, kdy OpenAI vydala třetí GPT, Radford a tým znovu zadrželi zdrojový kód a neposkytli vůbec žádné stahování programu, místo toho se uchýlili ke cloudové službě s čekací listinou. Udělali to, řekli, aby omezili používání GPT-3 špatnými herci a aby vydělali peníze účtováním poplatku za přístup.

Navzdory tomuto omezení OpenAI poskytlo sadu technických specifikací, které ostatním umožnily nahlédnout do toho, jak byl GPT-3 velkým pokrokem oproti předchozím dvěma verzím.

V porovnání s tímto záznamem představuje papír GPT-4 nový milník v nedostatečném zveřejnění. Rozhodnutí nejen zadržet zdrojový kód a zadržet hotový program, ale také zadržet technické podrobnosti, které by umožnily externím výzkumníkům hádat o složení programu, je novým druhem opomenutí.

I když postrádá technické podrobnosti, papír GPT-4, 98 stran dlouhý, je nový jiným způsobem. Je to průlom v uznání obrovských zdrojů, které byly vyčleněny na fungování programu.

Namísto obvyklých citací autora na titulní straně obsahuje technická zpráva na konci tři strany s uvedením zdroje, které citují stovky přispěvatelů, včetně všech v OpenAI až po finanční oddělení:

"Také si vážíme a děkujeme každému členovi týmu OpenAI, který není výslovně zmíněn výše, včetně úžasných lidí z výkonného asistenta, financí, týmu pro marketing, lidských zdrojů, právního, provozního a náborového týmu. Od najímání každého ve společnosti až po zajištění máme úžasné kancelářské prostory, k budování administrativních, HR, právních a finančních struktur, které nám umožňují dělat naši nejlepší práci, každý v OpenAI přispěl ke GPT-4."

V dokumentu je návrh, že OpenAI může nabídnout další zveřejnění v blíže neurčené době a stále je možná odhodláno k vědeckému pokroku prostřednictvím transparentnosti:

Zavázali jsme se k nezávislému auditu našich technologií a sdíleli jsme některé počáteční kroky a nápady v této oblasti na systémové kartě přiložené k této verzi. Plánujeme zpřístupnit další technické podrobnosti dalším třetím stranám, které nám mohou poradit, jak zvážit výše uvedená konkurenční a bezpečnostní hlediska a vědeckou hodnotu další transparentnosti.