OpenAI odhaluje nový bezpečnostní plán pro hraniční modely AI. Jak to ovlivní budoucí vývoj
V novém rámci OpenAI zavádí systém kontroly a rovnováhy mezi vedením a představenstvem.
OpenAI má za sebou velký rok a vede generativní závod AI s ChatGPT. Úspěch znamená, že všechny oči se upírají na společnost, aby vytvořila vhodný precedens pro budoucí vývoj AI, a OpenAI udělala jeden krok vpřed s novým bezpečnostním plánem.
Tento týden společnost OpenAI zveřejnila počáteční beta verzi svého rámce připravenosti, bezpečnostního plánu vymezujícího různá opatření, která společnost zavedla, aby zajistila bezpečnost svých modelů hraniční umělé inteligence.
V prvním prvku rámce se společnost zavazuje provádět konzistentní hodnocení svých hraničních modelů, která posouvají modely na jejich limity. OpenAI tvrdí, že tato zjištění pomohou společnosti posoudit riziko modelů a změřit účinnost navrhovaných zmírnění.
Zjištění hodnocení se pak zobrazí v „výsledkových kartách“ rizik pro hraniční modely OpenAI, které budou průběžně aktualizovány, aby odrážely prahové hodnoty rizika, včetně kybernetické bezpečnosti, přesvědčování, autonomie modelu a CBRN (chemické, biologické, radiologické a jaderné hrozby), jak je vidět na obrázek níže.
Prahové hodnoty rizika budou klasifikovány do čtyř úrovní bezpečnosti rizik: nízká, střední, vysoká a kritická. Toto skóre pak určí, jak by měla společnost s modelem postupovat.
Modely, které získají po zmírnění skóre „střední“ nebo nižší, lze nasadit, zatímco podle příspěvku lze dále rozvíjet pouze modely se skóre po zmírnění „vysoké“ nebo nižší.
OpenAI také restrukturalizuje způsob, jakým týmy interně fungují při rozhodování.
Specializovaný tým připravenosti bude řídit technickou práci na vyhodnocení schopností hraničního modelu, jako je provádění hodnocení a syntéza zpráv. Poté zkontroluje mezifunkční bezpečnostní poradenská skupina všechny zprávy a zašle je vedení a představenstvu.
A konečně, vedení zůstane ve své pozici s rozhodovací pravomocí; představenstvo však bude mít právo rozhodnutí zrušit.
Tento dodatek je zvláště pozoruhodný, protože následuje po zmatcích, které nastaly začátkem minulého měsíce, kdy byl Sam Altman nakrátko odvolán představenstvem, aby byl okamžitě obnoven jako generální ředitel s novým představenstvem.
Mezi další prvky rámce patří vývoj protokolu pro větší bezpečnost a vnější odpovědnost, spolupráce s externími stranami a interními týmy za účelem sledování skutečného zneužití a průkopnictví nového výzkumu v měření toho, jak se riziko vyvíjí v modelovém měřítku, podle vydání.