OpenAI sdílí bezpečnostní aktualizace po stížnostech whistleblowerů, požaduje zákonodárce
Ve vláknu X gigant AI vysvětluje, „jak upřednostňujeme bezpečnost při naší práci“. Zde je novinka.
Bezpečnost je jednou z největších obav souvisejících s rychlým růstem modelů generativní umělé inteligence. Sedmistránková stížnost podaná informátory a získaná deníkem The Washington Post týkající se bezpečnostních praktik OpenAI tyto obavy jen zvýšila. Výsledkem je, že OpenAI nyní sdílí aktuální informace o svých bezpečnostních iniciativách s veřejností.
V úterý se OpenAI obrátilo na X, dříve Twitter, aby sdílelo souhrn aktualizací o tom, „jak upřednostňujeme bezpečnost při naší práci“. Vlákno obsahovalo hlavní body nedávných iniciativ a aktualizace aktuálních projektů.
Zajistit, aby umělá inteligence byla přínosem pro každého, začíná budováním umělé inteligence, která je užitečná a bezpečná. Chceme se podělit o některé novinky o tom, jak upřednostňujeme bezpečnost při naší práci.
OpenAI začalo zdůrazněním rámce připravenosti, který byl poprvé vydán v beta verzi v prosinci. Rámec zahrnuje různá opatření, která OpenAI přijímá, aby zajistila bezpečnost svých hraničních modelů umělé inteligence, jako je poskytování hodnoticích karet modelů pro různé metriky a nevydání nového modelu, pokud překročí práh „středního“ rizika.
V tandemu OpenAI sdílelo, že aktivně vyvíjí „úrovně“, které pomohou OpenAI a zúčastněným stranám kategorizovat a sledovat pokrok AI, o čemž společnost sdělí další podrobnosti „brzy“.
OpenAI také nabídla aktualizace svého výboru pro bezpečnost a zabezpečení, který původně spustilo představenstvo OpenAI v květnu, aby do svých operací přidal další úroveň kontrol a protiváh. Nyní probíhá přezkum, který provádí výbor, který zahrnuje technické a politické experty. Jakmile bude dokončena, OpenAI se podělí o další kroky, které plánuje podniknout.
A konečně, OpenAI upozornila na svou politiku oznamovatelů, která podle společnosti „chrání práva zaměstnanců na chráněná sdělení“. Aby společnost podpořila konverzace týkající se technologie, změnila také proces odchodu svých zaměstnanců a odstranila neznevažující podmínky.
OpenAI sdílela tyto aktualizace jen jeden den poté, co američtí zákonodárci požadovali, aby OpenAI sdílela data týkající se jejích bezpečnostních postupů na základě zprávy oznamovatele. Některé z hlavních bodů zprávy zahrnovaly to, že OpenAI zabránila zaměstnancům upozorňovat příslušné úřady na technologická rizika a přiměla zaměstnance, aby se vzdali svých federálních práv na kompenzaci pro oznamovatele, čemuž se oba příspěvky věnovaly.