Microsoft přidává nové ochrany Designer po debaklu Taylor Swift deepfake
Mezery, které umožňovaly vytváření obrázků, byly opraveny.
Generátory obrázků AI mají potenciál podnítit kreativitu a revolucionizovat tvorbu obsahu k lepšímu. Při zneužití však mohou způsobit skutečnou škodu šířením dezinformací a poškozením pověsti. Microsoft doufá, že zabrání dalšímu zneužívání svých generativních nástrojů AI implementací nových ochran.
Minulý týden se na Twitteru objevily hluboké fake generované umělou inteligencí, které sexualizují Taylor Swift. Obrázky byly údajně sdíleny prostřednictvím 4chan a kanálu Telegram, kde uživatelé sdílejí obrázky celebrit vytvořené umělou inteligencí vytvořené pomocí Microsoft Designer.
Microsoft Designer je aplikace pro grafický design společnosti Microsoft, která obsahuje Image Creator, generátor obrázků AI společnosti, který využívá DALLE-3 k vytváření realistických obrázků. Generátor měl zábradlí, které bránilo nevhodným výzvám, které výslovně zmiňovaly nahotu nebo veřejné osobnosti.
Uživatelé však podle zprávy našli mezery, jako je překlep jmen celebrit a popis obrázků, které explicitně nepoužívaly sexuální výrazy, ale generovaly stejný výsledek.
Microsoft nyní tyto mezery vyřešil a znemožňuje vytvářet obrázky celebrit. Pokusil jsem se zadat výzvu „Selena Gomez hraje golf“ v aplikaci Image Creator a obdržel jsem upozornění, že moje výzva byla zablokována. Také jsem zkusil napsat její jméno špatně a dostal jsem stejné upozornění.
"Jsme odhodláni poskytovat bezpečný a respektující zážitek pro každého," řekl mluvčí Microsoftu ZDNET. "Pokračujeme ve vyšetřování těchto snímků a posílili jsme naše stávající bezpečnostní systémy, abychom dále zabránili zneužití našich služeb k vytváření podobných snímků."
Kodex chování pro návrháře společnosti Microsoft navíc výslovně zakazuje vytváření intimního obsahu pro dospělé nebo nedobrovolného intimního obsahu a porušení těchto zásad může vést k úplné ztrátě přístupu ke službě.
Někteří uživatelé již vyjádřili zájem o nalezení řešení těchto nových ochran v kanálu Telegram, podle zprávy. Pravděpodobně se tedy bude jednat o hru kočky a myši mezi špatnými herci, kteří hledají a využívají mezery v generativních nástrojích umělé inteligence, a společnostmi stojícími za těmito nástroji, které je po dlouhou dobu spěchají opravit.