Proč vaše konverzace ChatGPT nemusí být tak bezpečné, jak si myslíte
Co se stane se všemi těmi informacemi, které zadáváte do oblíbených nových nástrojů umělé inteligence?
Nechali byste někdy někoho, koho neznáte, poslouchat vaše soukromé rozhovory s vaším lékařem nebo drahou polovičkou? Nechali byste je prodat úryvky toho, co slyšeli, někomu jinému? To je v kostce to, co dělají sledovače třetích stran; sledují, co děláte online, a pak tyto informace prodají někomu jinému, kdo vám chce něco prodat.
Jak stále více lidí používá generativní služby AI, jako je ChatGPT nebo dokonce Bing Chat a Google Bard, bezpečnost a etika toho všeho přichází v úvahu. Když miliony lidí navštěvují webové stránky, aby se zeptali, vytvořili text pro motivační dopisy nebo eseje, napsali a dokonce ladili kód, musíte se ptát: Co se stane se všemi těmi informacemi, které jsou zadávány do těchto nástrojů, a jakou roli, pokud vůbec, mají data brokeři v tom všem?
Generální ředitel společnosti Ghostery a odborník na ochranu osobních údajů Jean-Paul Schmetz má k tomuto tématu co říci a připojil se ke ZDNETu, aby si popovídal o obavách o soukromí, které můžete mít při používání generativní umělé inteligence.
Dobrou zprávou je, že OpenAI zatím neumožňuje sledování třetích stran v ChatGPT. "OpenAI je osvěžující jednoduchý v tom smyslu, že je bezpečný," říká Schmetz. "Nemají nikoho, kdo by se ti díval přes rameno, když si povídal s ChatGPT."
"Jediná věc, o kterou se uživatel musí starat, je, že může použít vaše data pro školení, takže cokoli napíšete, používá OpenAI," dodává. To je jasně uvedeno v zásadách ochrany osobních údajů společnosti, i když máte možnost odhlásit se ze sdílení dat jednoduše vyplněním formuláře Google z OpenAI.
Pokud se neodhlásíte, Schmetz vám radí, abyste si "dávali pozor, co říkáte."
Stojí za to vzít na vědomí Schmetzovo varování. V roce 2021 výzkumníci odhalili zranitelná místa v systému GPT-2 pro útoky na trénovací extrakci dat, které využívají vrozenou roli modelu učit se z dat, která zadávají jeho uživatelé.
„Zadáním určitých cílených dotazů jsou škodlivé entity schopny spustit umělou inteligenci, aby přepočítala konkrétní data, která dříve vložil uživatel - což může zahrnovat osobní identifikační informace, jako jsou jména, adresy a telefonní čísla, spolu s čímkoli dalším, s kým cíl sdílel. systému,“ vysvětluje Schmetz.
I když s jistotou nevíme, zda je tato chyba zabezpečení přítomna v GPT-4, Schmetz vysvětluje, že přetrvává v bezplatném modelu.
Prezident a spoluzakladatel OpenAI, Greg Brockman, tento týden sdílel prohlášení, ve kterém zdůraznil závazek společnosti k bezpečnosti u jejích modelů. „Věříme, že výkonná školení by měla být hlášena vládám, doprovázena stále sofistikovanějšími předpověďmi jejich schopností a dopadu a vyžadovala by osvědčené postupy, jako je testování nebezpečných schopností,“ řekl Brockman.
Mnoho z nás, kteří vyrostli vedle internetu, ví, že pro něj existují tři důležitá pravidla: Nedávejte na internet soukromé informace, nevěřte všemu, co čtete, a kočky jsou jeho nejvyššími vládci.
„Uživatelé, kteří dbají na informace, které sdílejí s AI, nebudou ohroženi, protože tato data první strany lze extrahovat pouze v případě, že je uživatel vložil,“ dodává Schmetz.
O Ghostery
Ghostery je většinou známá svým nejlépe hodnoceným rozšířením prohlížeče a pyšní se „sledováním sledovačů“, ale společnost se také může pochlubit sadou pro ochranu osobních údajů, která obsahuje nástroje pro sledování a blokování reklam, soukromý prohlížeč, soukromé vyhledávání a analýzu sledování.
"Ve skutečném světě jsme plně spokojeni se sledováním první strany," vysvětluje Schmetz. Sledování první strany v reálném světě by znamenalo diskusi s lékařem nebo malý rozhovor s obchodníkem. "Kdyby vás někdo vzadu pořád poslouchal u lékaře, v obchodě a sledoval vás ve vlaku, byl by to problém."
O tuto třetí stranu, která se snaží naslouchat, se Ghostery stará online.
Toto rozšíření se odlišuje od ostatních díky podrobné analýze, kterou získáte při každé návštěvě webu. Kromě blokování reklam a sledovačů třetích stran vám kliknutí na logo Ghostery při návštěvě stránky zobrazí počet zablokovaných sledovačů, upravených požadavků a dobu načítání stránky.
Ghostery vám také dává možnost snadno určit, zda důvěřovat nebo omezit web, a také určit, zda chcete, aby automaticky nikdy nesouhlasil se soubory cookie, takže se s těmito vyskakovacími okny můžete rozloučit.
V prohlížeči Chrome ponechávám rozšíření Ghostery prominentní ve svém prohlížeči tím, že ho připnu na panel nástrojů, kde hned po otevření stránky uvidím počet sledovačů.
"Snaží se, abyste nevěděli, že když načtete webovou stránku, přicházejí s ní desítky sledovačů," říká Schmetz. Snaha odhalit tyto sledovače vedla k tomu, že Ghostery vybudoval databázi Whotracks.me, která zveřejňuje informace o sledovačích, aby bylo sledování transparentní.