Vzhledem k rostoucímu zájmu o umělou inteligenci velmi chybí transparentnost
Přimět společnosti, aby otevřely informace o tom, jak trénují své základní modely umělé inteligence, se ukazuje jako výzva.
Stále chybí transparentnost ohledně toho, jak jsou základní modely trénovány, a tato mezera může vést ke zvyšujícímu se napětí mezi uživateli, protože stále více organizací hledá umělou inteligenci (AI).
V Asii a Tichomoří, s výjimkou Číny, vzrostou projekty IDC, jejichž výdaje na umělou inteligenci vzrostou o 28,9 % z 25,5 miliardy USD v roce 2022 na 90,7 miliardy USD do roku 2027. Výzkumná firma odhaduje, že 81 % těchto výdajů bude směřovat na prediktivní a interpretační aplikace umělé inteligence.
Takže i když je kolem generativní umělé inteligence velký humbuk, tento segment umělé inteligence bude představovat pouhých 19 % výdajů regionu na umělou inteligenci, uvedl Chris Marshall, viceprezident IDC pro Asii a Tichomoří. Výzkum zdůrazňuje trh, který potřebuje širší přístup k AI, který přesahuje generativní AI, řekl Marshall na summitu Intel AI, který se konal tento týden v Singapuru.
IDC však poznamenalo, že 84 % asijsko-pacifických organizací věří, že využití generativních modelů umělé inteligence nabídne jejich podnikání významnou konkurenční výhodu. Tyto podniky doufají, že dosáhnou nárůstu provozní efektivity a produktivity zaměstnanců, zlepší spokojenost zákazníků a vyvinou nové obchodní modely, dodala výzkumná firma.
IDC také očekává, že většina organizací v regionu v roce 2024 zvýší výdaje na okrajové IT, přičemž 75 % podnikových dat bude do roku 2025 generováno a zpracováváno na okraji mimo tradiční datová centra a cloud.
"Aby se umělá inteligence dostala skutečně všude, musí použité technologie poskytovat přístupnost, flexibilitu a transparentnost jednotlivcům, průmyslovým odvětvím a společnosti jako celku," uvedl v prohlášení Alexis Crowell, technický ředitel společnosti Intel pro Asii a Tichomoří. "Vzhledem k tomu, že jsme svědky zvyšujícího se růstu investic do AI, bude několik příštích let pro trhy rozhodujících, aby vybudovaly své vyspělé základy AI odpovědným a promyšleným způsobem."
Aktéři v oboru a vlády často propagovali důležitost budování důvěry a transparentnosti v AI a aby spotřebitelé věděli, že systémy AI jsou „spravedlivé, vysvětlitelné a bezpečné“. Když se ZDNET zeptal, zda je v současné době dostatečná transparentnost ohledně toho, jak jsou trénovány otevřené velké jazykové modely (LLM) a základní modely, Crowell odpověděl: "Ne, nestačí."
Poukázala na studii vědců ze Stanfordské univerzity, MIT a Princetonu, kteří hodnotili transparentnost 10 hlavních modelů nadací, ve kterých platforma s nejvyšším skóre dosáhla pouze 54 %. "To je neúspěšná známka," řekla během mediálního brífinku na summitu.
Průměrné skóre dosáhlo pouhých 37 % podle studie, která posuzovala modely na základě 100 ukazatelů, včetně procesů spojených s budováním modelu, jako jsou informace o trénovacích datech, architektuře modelu a rizicích a politikách, které řídí jeho použití. Nejlepším střelcem s 54 % byla Llama 2 z Meta, následovaná Bloomz z BigScience s 53 % a GPT-4 z OpenAI se 48 %.
„Žádný hlavní vývojář základních modelů není blízko k zajištění dostatečné transparentnosti, což odhaluje zásadní nedostatek transparentnosti v odvětví AI,“ poznamenali vědci.
Transparentnost je nutná
Crowell vyjádřil naději, že se tato situace může změnit s dostupností benchmarků a organizací monitorujících vývoj AI. Dodala, že soudní spory, jako jsou ty, které vedl The New York Times proti OpenAI a Microsoftu, by mohly pomoci přinést další právní jasnost.
Měly by existovat řídicí rámce podobné legislativě pro správu dat, včetně evropského GDPR (General Data Protection Regulation), aby uživatelé věděli, jak jsou jejich data využívána, poznamenala. Podniky se musí rozhodovat o nákupu na základě toho, jak jsou jejich data zachycována a kam jdou, řekla a dodala, že rostoucí napětí ze strany uživatelů požadujících větší transparentnost může podnítit akci v tomto odvětví.
Podle nedávného průzkumu Salesforce, který se dotazoval téměř 6 000 znalostních pracovníků v USA, Velké Británii, Irsku, Austrálii, Francii, Německu, Indii a Singapuru, 54 % uživatelů umělé inteligence nedůvěřuje údajům používaným k výcviku systémů umělé inteligence. a Švýcarsko.
Na rozdíl od všeobecného přesvědčení, přesnost nemusí jít na úkor transparentnosti, řekl Crowell s odkazem na výzkumnou zprávu vedenou Boston Consulting Group. Zpráva se zabývala tím, jak si modely umělé inteligence v černé a bílé krabici vedly na téměř 100 srovnávacích klasifikačních datových sadách, včetně cen, lékařské diagnózy, predikce bankrotu a nákupního chování. U téměř 70 % datových souborů poskytly modely černé a bílé skříňky podobně přesné výsledky.
"Jinými slovy, častěji než ne, neexistoval žádný kompromis mezi přesností a vysvětlitelností," uvádí zpráva. "Mohl by být použit srozumitelnější model, aniž by byla obětována přesnost."
Dosažení plné transparentnosti však zůstává náročné, řekl Marshall. Poznamenal, že diskuse o vysvětlitelnosti umělé inteligence byly kdysi rušné, ale od té doby utichly, protože je obtížné tento problém řešit.
Podle Laurence Liewa, ředitele inovací AI pro AI Singapore (AISG), organizace stojící za hlavními nadačními modely nemusí být ochotny poskytovat informace o svých tréninkových datech kvůli obavám, že budou žalovány. Dodal, že selektivita ohledně tréninkových dat může také ovlivnit míru přesnosti AI. Liew vysvětlil, že AISG se rozhodl nepoužívat určité datové sady kvůli potenciálním problémům s používáním všech veřejně dostupných s vlastní iniciativou LLM, SEA-LION (Jihovýchodní asijské jazyky v jedné síti).
V důsledku toho není open-source architektura tak přesná jako některé velké LLM na dnešním trhu, řekl. "Je to dobrá bilance," poznamenal a dodal, že dosažení vysoké míry přesnosti by znamenalo přijmout otevřený přístup k použití jakýchkoli dostupných dat. Volba "etické" cesty a nedotýkání se určitých datových sad bude znamenat nižší míru přesnosti než u komerčních hráčů, řekl.
I když si Singapur zvolil pro SEA-LION vysokou etickou laťku, stále je často zpochybňován uživateli, kteří volají po využívání více datových sad ke zlepšení přesnosti LLM, řekl Liew.
Skupina autorů a vydavatelů v Singapuru minulý měsíc vyjádřila obavy z možnosti, že by jejich práce mohla být využita k výcviku LACHAŘE. Mezi jejich stížnostmi je zjevný nedostatek odhodlání „zaplatit spravedlivou náhradu“ za použití jejich spisů. Poznamenali také potřebu jasnosti a výslovného uznání, že při vytváření a školení LLM budou dodržovány zákony o duševním vlastnictví a autorských právech země a stávající smluvní ujednání.
Být transparentní ohledně open source
Podle generálního ředitele Red Hatu Matta Hickse by se takové uznání mělo rozšířit i do rámců s otevřeným zdrojovým kódem, na kterých mohou být vyvíjeny aplikace AI.
Modely jsou trénovány z velkého objemu dat poskytovaných lidmi s autorskými právy a odpovědné používání těchto systémů umělé inteligence znamená dodržování licencí, které používají, řekl Hicks během brífinku pro virtuální média tento týden na pozadí Red Hat Summit 2024.
To se týká modelů s otevřeným zdrojovým kódem, které mohou mít různé varianty licencování, včetně licencí copyleft, jako je GPL, a permisivních licencí, jako je Apache.
Zdůraznil důležitost transparentnosti a převzetí odpovědnosti za pochopení datových modelů a zpracování výstupů, které modely generují. Pro bezpečnost i zabezpečení architektur umělé inteligence je nutné zajistit, aby modely byly chráněny proti škodlivým zneužitím.
Red Hat se snaží svým zákazníkům v tomto úsilí pomoci prostřednictvím řady nástrojů, včetně Red Hat Enterprise Linux AI (RHEL AI), kterou na summitu odhalil. Produkt se skládá ze čtyř komponent, včetně jazyka Open Granite a kódových modelů z komunity InstructLab, které podporuje a odškodní Red Hat.
Tento přístup řeší problémy, kterým organizace často čelí při zavádění AI, včetně správy životního cyklu aplikací a modelu, uvedl dodavatel open source.
„[RHEL AI] vytváří základní modelovou platformu pro zavedení open source licencovaných modelů GenAI do podniku,“ řekl Red Hat. „S nástroji pro zarovnání InstructLab, modely Granite a RHEL AI se Red Hat snaží využít výhody skutečných open source projektů - volně přístupných a opakovaně použitelných, transparentních a otevřených příspěvkům - na GenAI ve snaze odstranit tyto překážky. ."