OpenAI buduje červenou týmovou síť pro řešení bezpečnosti AI - a můžete se přihlásit

Členové Red Teaming Network OpenAI budou za svůj čas odměněni a předchozí zkušenosti s jazykovými modely nejsou vyžadovány.

ChatGPT od OpenAI nashromáždilo více než 100 milionů uživatelů po celém světě, což zdůrazňuje jak pozitivní případy použití AI, tak potřebu větší regulace. OpenAI nyní dává dohromady tým, který pomáhá vytvářet bezpečnější a robustnější modely.

V úterý společnost OpenAI oznámila, že spouští svou síť OpenAI Red Teaming Network složenou z odborníků, kteří mohou pomoci poskytnout informace pro posouzení rizik společnosti a strategie zmírňování pro nasazení bezpečnějších modelů.

Tato síť transformuje způsob, jakým OpenAI provádí hodnocení rizik, do formálnějšího procesu zahrnujícího různé fáze cyklu vývoje modelu a produktu, na rozdíl od „jednorázových zakázek a výběrových procesů před nasazením velkých modelů,“ uvádí OpenAI.

OpenAI hledá odborníky z různých prostředí, aby vytvořili tým, včetně odborných znalostí v oblasti vzdělávání, ekonomie, práva, jazyků, politologie a psychologie, abychom jmenovali jen některé.

OpenAI ale říká, že předchozí zkušenosti se systémy AI nebo jazykovými modely nejsou nutné.

Členové budou kompenzováni za svůj čas a budou podléhat dohodám o mlčenlivosti (NDA). Vzhledem k tomu, že se nebudou podílet na každém novém modelu nebo projektu, účast v červeném týmu může být tak zanedbatelná jako pět hodin ročně. Můžete požádat o členství v síti prostřednictvím webu OpenAI.

Kromě červených týmových kampaní OpenAI se mohou odborníci podle blogového příspěvku vzájemně zapojit do obecných „postupů a zjištění červeného týmu“.

„Tato síť nabízí jedinečnou příležitost utvářet vývoj bezpečnějších technologií a zásad umělé inteligence a vliv, který může mít umělá inteligence na způsob, jakým žijeme, pracujeme a komunikujeme,“ říká OpenAI.

Red teaming je nezbytný proces pro testování účinnosti a zajištění bezpečnosti novější technologie. Ostatní tech giganti, včetně Googlu a Microsoftu, mají pro své modely AI vyhrazené červené týmy.