Společnost Microsoft prosazuje odpovědnost a bezpečnost AI prostřednictvím Azure
Azure AI Content Safety je nyní k dispozici ve verzi Preview, ale pro Designer a Bing přicházejí také další funkce.
Zatímco různí odborníci, etici a dokonce i vláda prosazují zvýšenou bezpečnost při vývoji a používání nástrojů umělé inteligence, společnost Microsoft vstoupila do fáze Build, aby oznámila nová opatření pro bezpečnost obsahu AI.
Společnost Microsoft, která je součástí řady aktualizací zaměřených na zodpovědnou umělou inteligenci, spustila Azure AI Content Safety, která je momentálně ve fázi náhledu, a také další opatření, jako jsou možnosti mediální provenience pro své nástroje AI, jako je Designer a Bing.
Microsoft Designer a Bing Image Creator dají uživatelům možnost určit, zda byl obrázek nebo video vytvořeno AI, prostřednictvím nadcházejících aktualizací původu médií. Toho bude dosaženo pomocí kryptografických metod, které budou schopny označovat média generovaná AI pomocí metadat o jejich vytvoření.
Během vývojářské konference Microsoft Build společnost také oznámila jednodušší a efektivnější způsoby vývoje kopilotů a pluginů na své platformě. Sarah Bird, produktová manažerka partnerské skupiny společnosti Microsoft, vede odpovědnou umělou inteligenci za základní technologie.
Bird vysvětlil, že vývojáři nesou odpovědnost za zajištění toho, aby tyto nástroje poskytovaly přesné, zamýšlené výsledky a nebyly zaujaté, sexistické, rasistické, nenávistné nebo násilné výzvy.
"Je to bezpečnostní systém pohánějící GitHub Copilot, je to součást bezpečnostního systému, který pohání nový Bing. Nyní jej spouštíme jako produkt, který mohou používat zákazníci třetích stran," řekl Bird.
Odpovědný vývoj umělé inteligence je pro technologické společnosti velkým tématem. Dr. Vishal Sikka, generální ředitel společnosti Vianai Systems, vysoce výkonné strojové učení, vysvětluje, že existuje naléhavá potřeba systémů umělé inteligence, které jsou bezpečné, spolehlivé a rozšiřují naši lidskost.
„Zajištění toho, aby se lidé soustředili na vývoj, implementaci a používání nástrojů umělé inteligence ve spojení s robustním rámcem pro monitorování, diagnostiku, zlepšování a ověřování modelů umělé inteligence, pomůže zmírnit rizika a nebezpečí spojená s těmito typy systémů,“ dodal Sikka.
Nová služba Azure AI společnosti Microsoft bude integrována do služby Azure OpenAI a pomůže programátorům vyvinout bezpečnější online platformy a komunity pomocí modelů speciálně vytvořených k rozpoznání nevhodného obsahu v obrázcích a textu.
Modely by označily nevhodný obsah a přidělily skóre závažnosti, což by vedlo lidské moderátory k určení, jaký obsah vyžaduje naléhavý zásah.
Bird dále vysvětlil, že filtry Azure AI Content Safety lze upravit podle kontextu, protože systém lze použít i v systémech bez AI, jako jsou herní platformy, které vyžadují kontext k vyvozování závěrů v datech.
Zodpovědný vývoj AI se dostal i do Bidenovy administrativy. Generální ředitelé společností Microsoft, Google, OpenAI a dalších společností zabývajících se umělou inteligencí uspořádali začátkem tohoto měsíce dvouhodinovou schůzku s viceprezidentkou Kamalou Harrisovou, aby projednali předpisy týkající se umělé inteligence, a připravuje se listina práv pro umělou inteligenci.