Mohla by vám odmítnutí odpovědnosti AI na Instagramu pomoci odhalit influencery generované AI?
Generativní umělá inteligence může vytvářet hyperrealistické fotografie a videa, ale ne každý dokáže detekovat obsah generovaný umělou inteligencí pouhým okem.
Instagram by mohl pracovat na funkci, která by uživatele upozornila, když AI částečně nebo úplně vytvoří příspěvek, na který narazí. Podle příspěvku od výzkumníka aplikací Alessandra Paluzziho budou příspěvky vytvořené umělou inteligencí opatřeny doprovodným štítkem vysvětlujícím, že umělá inteligence hrála roli při vytváření příspěvku.
Mohly by ale štítky lidem pomoci rozpoznat, kdy generativní umělá inteligence vytvoří celý účet?
Tři populární influenceři na Instagramu nashromáždili přes osm milionů sledujících a získali obchody se značkami v hodnotě milionů dolarů. Všechny tři jsou však generovány AI. Lil Miquela, Imma a Shudu jsou vlivní lidé na Instagramu, jejichž fotky jsou generovány umělou inteligencí.
Každý z nich žije vzrušující život a spolupracuje se značkami jako Dior, Calvin Klein, Chanel a Prada. Navzdory tomu, že každý influencer umělé inteligence má ve svém životopise variaci fráze „digitální persona“ a všechny jejich fotografie působí tajemným údolím, mnoho komentujících a sledujících věří, že influenceři jsou skuteční.
Každý digitální influencer je produktem technologické firmy, která zaměstnává grafické designéry a digitální umělce, aby pomocí umělé inteligence vytvořili obrazy influencerů.
Digitální influenceři jsou pro značky a marketingové společnosti atraktivní, protože snižují náklady spojené s cestováním, eliminují jazykové bariéry a mohou změnit svůj vzhled tak, aby vyhovoval jakékoli značce.
Ještě důležitější je, že digitální influenceři nepředstavují riziko pro značku. Nemají názory ani politické hodnoty a nemají žádné pochybné tweety z doby před deseti lety. Digitální influencer nemůže udělat nic, co by ohrozilo integritu značky.
Digitální influenceři navíc nemohou stárnout nebo dělat se svým vzhledem něco, co není v souladu s hodnotami značky. Například. Lil Miquela má 19 let od založení účtu na Instagramu v roce 2016. Od té doby spolupracovala s celebritami, zdobila obálky časopisů a shrábla miliony dolarů.
Ale když lidé rychle projdou kolem příspěvků Lil Miquely, kolik z nich okamžitě zjistí, že je vygenerována AI? Odborníci tvrdí, že jich není mnoho. Mladí lidé jsou obzvláště ovlivnitelní a obsah, který vidí online, utváří jejich pohled na sebe a svět kolem nich.
A díky digitálním influencerům mohou vypadat perfektně a žít za všech okolností ideální život, což by mohlo zvýšit tlak a nepříjemné pocity, které teenageři zažívají při rolování na sociálních sítích.
Je tedy na Instagramu, aby Lil Miquela „vyřadil“ jako influencerku generovanou umělou inteligencí, její „vlastníky“ nebo uživatele Instagramu, aby lépe posuzoval obsah, který konzumují? Vláda říká, že by měla vytvořit nové agentury, které udrží Big Tech v souladu s přísnějšími standardy.
Big Tech říká, že taková regulace by mohla potlačit inovace a mnoho uživatelů se domnívá, že odpovědnost leží na technologických společnostech a společnostech sociálních médií.
Štítky obsahu generované umělou inteligencí by nebyly poprvé, co se Instagram pokusil uživatelům pomoci lépe porozumět obsahu, na který narazí. V roce 2020 během pandemie COVID-19 Instagram zablokoval hashtagy, které šíří dezinformace o vakcínách, a poskytoval uživatelům důvěryhodné informace o COVID-19 a vakcínách.
Ale generativní umělá inteligence není tak ořezaná jako poskytování odkazů na Národní zdravotní službu nebo Centra pro kontrolu a prevenci nemocí. Umělá inteligence může být obtížnější rozpoznat a omezit a technologické společnosti musí bojovat s možným nebezpečím dezinformací šířených generativní umělou inteligencí.