Platforma pro generování hlasu AI, která šokovala svět, dostává aktualizaci pro boj proti zneužívání

Funkce klonování hlasu ElevenLab byla zavedena pro dobré i špatné případy použití. Může nejnovější aktualizace zastavit zneužití?

Generativní AI má schopnost generovat všechny typy obsahu včetně textu, umění, obrázků a dokonce řeči.

Startup s umělou inteligencí, ElevenLabs, podporuje generování převodu textu na řeč a klonování hlasu od svého uvedení beta verze v lednu a nashromáždil více než milion registrovaných uživatelů.

Také: Meta představuje Voicebox AI, která replikuje hlasy vašich přátel a blízkých

V úterý společnost ElevenLabs oznámila uzavření kola série A v hodnotě 19 milionů dolarů a také některé významné aktualizace platformy, včetně těch, které řeší její největší kontroverzi.

Technologie generování hlasu Elevenlabs měla od svého uvedení na trh pozitivní i negativní důsledky.

Některá z pozitivních využití, jak nastínila ElevenLabs, zahrnují „nezávislí autoři vytvářející audioknihy, vývojáři vyjadřující postavy ve videohrách, podpora zrakově postiženým v přístupu k online psanému obsahu a napájení prvního rádiového kanálu AI na světě“.

Ačkoli jsou tyto případy použití pozitivní a posouvají obchodní procesy v mnoha různých odvětvích, existují stejně škodlivé aplikace.

Nástroj pro klonování hlasu, který využívá úryvky hlasu člověka k vytvoření nového zvuku, byl použit k nekalým prostředkům, takže veřejné osobnosti vypadaly, jako by říkaly hrozná, diskriminační prohlášení.

Týdny po vydání beta verze se ElevenLabs okamžitě obrátilo na Twitter, aby se zabývalo „případy zneužití hlasového klonování“. Společnost navrhla potenciální způsoby, jak s tímto problémem bojovat, jako je dodatečné ověření účtu, ověření autorských práv k hlasu, přesunutí klonování hlasu na placenou úroveň a dokonce i ruční ověření každého požadavku.

Také: Vimeo přidává sadu nástrojů AI, které výrazně usnadňují tvorbu videí

Dnes zveřejnila veřejnosti to, co se zdá být řešením tohoto problému, AI Speech Classifier. Tento nástroj bude schopen dešifrovat, zda nahraný zvuk obsahuje zvuk generovaný umělou inteligencí z ElevenLabs nebo ne.

„Vydání AI Speech Classifier je nejnovějším krokem v úsilí společnosti o transparentnost a je základním kamenem jejich závazku vytvářet bezpečné generativní mediální prostředí,“ uvedl ElevenLabs ve zprávě.

Podle předchozího příspěvku oznamujícího nástroj si tento nástroj zachovává >99% přesnost při identifikaci, kdy zvuk není upraven.

Pokud však zvuk prošel transformací kodeku nebo reverbu, přesnost klesne na více než 90% a čím více byl obsah zpracován, tím více přesnost podle vydání klesá.

Tento nástroj nezabrání zneužití a může jednoduše pomoci odstranit zmatek poté, co dojde k počátečnímu poškození. Jeho účinnost při řešení problému je sporná, ale je to malý krok.

Není to poprvé, co byla technologie generace AI zneužita k cílení na veřejné osobnosti. Například AI hudební generátor dokázal vygenerovat spolupráci Drakea a The Weekend, která zněla reálně, i když na trati nebyl žádný umělec.

Také: Může hudba generovaná umělou inteligencí získat hudební cenu? Grammy odhalují nová pravidla

Generátory AI umění a obrázků byly také použity k vytváření falešných, realistických obrázků veřejných osob vykonávajících určité činnosti. Některé z těchto obrázků byly použity negativně jako politická propaganda, zatímco jiné byly použity pouze pro zábavní účely, jako například mem papeže Františka v nafouknutém kabátě.

Kromě AI Speech Classifier ElevenLabs také oznámila příchod „Projektů“ do své sady produktů.

„Projekty“ je pracovní postup pro úpravy a vytváření dlouhého mluveného obsahu, který je nyní k dispozici pro časný přístup. Podle vydání má sloužit jako jednotné kontaktní místo pro potřeby úpravy zvuku a poskytovat „úroveň jednoduchosti Dokumentů Google“ pro tvorbu zvuku.

Přidání funkce „Projekty“ je podobné těm, které jsme viděli u jiných kreativních platforem, jako jsou Vimeo, TikTok a Adobe Express. Cílem všech těchto platforem je implementovat AI způsobem, který optimalizuje pracovní tok uživatelů a umožňuje snadnější a optimalizovanou tvorbu obsahu.