Zoom je zapletený do nepořádku v oblasti soukromí AI
Nedávné změny zásad ochrany soukromí a umělé inteligence na populární platformě pro videokonference explodovaly do tváře společnosti. Zde je to, co vědět.
Čte někdo smluvní podmínky softwarových služeb? Právníci ano, ale je známo, že i jejich oči se klíží. Takže až donedávna si nikdo nevšiml, že Zoom v březnu 2023 změnil své smluvní podmínky. Podle nových podmínek si Zoom nárokoval právo používat vaše video, zvuk a data chatu pro své programy umělé inteligence (AI). .
Soukromí? Bezpečnostní? co to je?
Abychom byli přesní, nové podmínky udělily společnosti Zoom práva k jakýmkoli „datům, obsahu, souborům, dokumentům nebo jiným materiálům (souhrnně „Vstup zákazníka“) při přístupu nebo používání Služeb nebo Softwaru a společnost Zoom může poskytovat, vytvářet nebo vám podle vlastního uvážení nebo jako součást Služeb zpřístupní určité deriváty, přepisy, analýzy, výstupy, vizuální zobrazení nebo soubory dat vyplývající ze Vstupu zákazníka (společně se Vstupem zákazníka, „Obsah zákazníka“).“
Jaká jsou tato práva na „Zákaznický obsah“? Za prvé: „Zoom může redistribuovat, publikovat, importovat, přistupovat, používat, ukládat, přenášet, kontrolovat, zveřejňovat, uchovávat, extrahovat, upravovat, reprodukovat, sdílet, používat, zobrazovat, kopírovat, distribuovat, překládat, přepisovat, vytvářet odvozená díla a zpracovávat zákaznický obsah."
Ale počkat, je toho víc. Poskytujete také společnosti Zoom „trvalou, celosvětovou, nevýhradní, bezplatnou, sublicencovatelnou a přenosnou licenci a všechna další práva požadovaná nebo nezbytná k redistribuci, publikování, importu, přístupu, používání, ukládání, přenášení, kontrole, zveřejňování, uchovávání , extrahovat, upravovat, reprodukovat, sdílet, používat, zobrazovat, kopírovat, distribuovat, překládat, přepisovat, vytvářet odvozená díla a zpracovávat zákaznický obsah a provádět veškeré úkony s ohledem na zákaznický obsah: (i) jak může být pro Zoom nezbytné abychom vám mohli poskytovat Služby, včetně podpory Služeb; (ii) za účelem vývoje produktů a služeb, marketingu, analýzy, zajištění kvality, strojového učení, umělé inteligence, školení, testování, zlepšování Služeb, Softwaru nebo Další produkty, služby a software společnosti Zoom."
Reakce na to všechno, když to dobří lidé na fóru Ycombinator, akcelerátoru technologických startů, zjistili, byla, řekněme, nešťastná. Nebo, jak to řekl jeden komentující: "Já, za prvé, nevítám naše dystopické vládce."
Po všem rozruchu kolem tohoto víkendu změnil Zoom své podmínky služby. Nyní Zoom Pinky přísahá: „Bez vašeho souhlasu nebude Zoom bez vašeho souhlasu používat audio, video nebo chatový zákaznický obsah k trénování našich modelů umělé inteligence.“
Uh-huh.
Produktový ředitel společnosti Zoom Smita Hashim v příspěvku na blogu vysvětlil, že společnost ve skutečnosti nebude dělat věci popsané v jejích smluvních podmínkách. Pravda, Zoom použije některá vaše data pro strojové učení. Ale podle blogového příspěvku: „Pro umělou inteligenci nepoužíváme audio, video ani obsah chatu k tréninku našich modelů bez souhlasu zákazníka.“
Znamená ale něco ta přilepená klauzule a blog? Sean Hogle, právník v oblasti obchodu a duševního vlastnictví, si myslí, že ne. Na Ycombinator napsal: "Právníci společnosti Zoom se snaží dosáhnout rychlého postupu s těmito revidovanými podmínkami. Nová věta o souhlasu uživatele, který je vyžadován pro školení AI, se vztahuje pouze na 'Obsah zákazníka', nikoli 'Data generovaná službou'." používat tato data, která jsou odvozena z vašich konferencí a materiálů, bez vašeho souhlasu.
Hogle pokračoval: „V tom je problém.“ „Službami generovaná data“=„jakákoli telemetrická data, data o používání produktů, diagnostická data a podobný obsah nebo data, která Zoom shromažďuje nebo generuje v souvislosti s vaším nebo vašimi koncovými uživateli S využitím těchto dat Hogle došel k závěru: "Toto 'objasnění' nečiní nic smysluplného, aby zmírnilo vážné obavy o ochranu osobních údajů způsobené používáním zachyceného uživatelského videoobsahu společností Zoom."
Ve svém příspěvku na blogu Hashim pokračovala: „Nebudeme používat zákaznický obsah, včetně záznamů o vzdělání nebo chráněných zdravotních informací, k výcviku našich modelů umělé inteligence bez vašeho souhlasu.“ Ty už byly samozřejmě chráněny podle zákona o právech na výchovu a soukromí (FERPA) a zákona o přenositelnosti a odpovědnosti zdravotního pojištění (HIPAA), takže to není velký problém. Ministerstvo spravedlnosti by je za to přemohlo.
Chcete-li používat některé funkce umělé inteligence Zoom, jako je Zoom IQ, která nabízí automatizované shrnutí schůzek, musíte samozřejmě souhlasit s tím, aby Zoom používal vaše data. Také nemáte žádnou kontrolu nad soukromím schůzky, pokud se schůzky právě účastníte a osoba, která ji zavolala, souhlasila s tím, že Zoom nechá nahlížet přes vaše virtuální ramena a dělat si vlastní poznámky.
Málokdo z toho má radost. Jak uvedl analytik Constellation Research Dion Hinchcliffe: „Zoom se určitě dotkl hlavního nervu obav z trhu, když mu nedávno aktualizované podmínky služby udělily v podstatě neomezenou licenci na veškerý uživatelský obsah (video, zvuk, text), který prochází jeho platformou… Velkým problémem je, že IP zákazníka a soukromé informace lidí budou uloženy v takových modelech, kde by mohly být zneužity.“
Larry Dignan, bývalý šéfredaktor ZDNET a současný šéfredaktor Constellation Research, dodal: „Přesto podmínky služby stále udělují licenci Zoom bez ohledu na to... Prodejci by se měli vydat ze své cesty a vydat se na cestu s daty zákazníků. „Nastolení a udržení velmi vysoké úrovně důvěry u zákazníků ohledně jejich dat nebude mít plody nadcházející revoluce umělé inteligence.“
Allen Drennan, spoluzakladatel a ředitel Cordoniq, společnosti pro virtuální schůzky, souhlasil. V e-mailu Drennan napsal: „Když soukromé organizace nahrávají interní důvěrné informace a duševní vlastnictví na schůzku, nezvažují důsledky poskytování svých dat poskytovateli třetí strany spravovanému v cloudu, který nemají pod kontrolou. se neomezuje pouze na sdílené obrazovky nebo vícestránkové důvěrné sdílené dokumenty. Rozšíří se také na nahrávky schůzek a audio a video použité během schůzky. Opravdu musíte mít kontrolu nad zabezpečením i soukromím.“
Hinchcliffe přidal na Twitter nebo X, Zoom stále bere „trvalou, celosvětovou“ licenci na veškerý zákaznický obsah, takže můžete „kontrolovat, zveřejňovat, uchovávat, extrahovat, upravovat, reprodukovat, sdílet, používat, zobrazovat, kopírovat, distribuovat, překládat, přepisovat, vytvářet odvozená díla.“ To je nerozumné a dost překračuje zákaznický obsah.“
Kdo s tím může argumentovat? Kromě Zoomu, samozřejmě.
V roce 2021 se Zoom zavázal zaplatit 85 milionů dolarů v hromadné žalobě za sdílení uživatelských dat s neautorizovanými třetími stranami, jako jsou Facebook, Google a LinkedIn, a za zkreslování síly svých end-to-end šifrovacích protokolů.
Ve stejném roce se Zoom dohodl s Federální obchodní komisí (FTC), která po ní požadovala, aby „implementovala komplexní bezpečnostní program, zkontrolovala všechny aktualizace softwaru na bezpečnostní chyby před vydáním a zajistila, že aktualizace nebudou bránit zabezpečení třetích stran. funkce." FTC také požadovala, aby společnost Zoom nezkreslovala své postupy shromažďování dat.
Podle Johna Davissona, ředitele soudních sporů v advokátní skupině Electronic Privacy Information Center (EPIC), v komentářích pro The Washington Post, se to „zdá jako zásadní porušení a je to něco, na co se FTC potřebuje podrobně podívat“. Poslanec Jan Schakowsky (D-Ill.) dodal: "Zoom má špatnou historii ochrany dat spotřebitelů a dodržení svých slibů - jak dokazuje jejich příkaz k souhlasu a vypořádání v roce 2021."
Vše závisí na tom, zda vám vyhovuje sdílení soukromých informací pomocí aplikace Zoom. Přestože se Zoom během pandemie ukázal být užitečný, odpověď pro mnoho společností a organizací, které čelí této nové hrozbě ochrany soukromí AI, se zdá být ne. Jak Eliot Higgins, zakladatel Bellingcat Productions, tweetoval: „Provádíme naše školicí workshopy na Zoomu, takže Zoom efektivně plánuje trénovat svou AI na celém obsahu našeho workshopu bez náhrady, takže sbohem Zoom.“
Jsem si jistý, že nebudou jediní, kdo nabídne Zoom adieu.