Singapur vydává pokyny pro zabezpečení systémů umělé inteligence a zákaz deepfake ve volbách

Bezpečnostní pokyny pokrývají pět fází životního cyklu AI, aby pomohly zmírnit různá rizika implementace AI.

Singapur tento týden vydal řadu oznámení o kybernetické bezpečnosti, včetně pokynů pro zabezpečení systémů umělé inteligence (AI), bezpečnostního štítku pro zdravotnické prostředky a nové legislativy, která zakazuje falšování obsahu volební reklamy.

Jeho nové směrnice a průvodce zabezpečením systémů AI mají za cíl prosadit bezpečný přístup založený na návrhu, aby organizace mohly zmírnit potenciální rizika při vývoji a zavádění systémů AI.

„Systémy umělé inteligence mohou být zranitelné vůči nepřátelským útokům, kdy zákeřní aktéři záměrně manipulují nebo klamou systém umělé inteligence,“ uvedla singapurská agentura pro kybernetickou bezpečnost (CSA). "Přijetí umělé inteligence může také zhoršit stávající rizika kybernetické bezpečnosti pro podnikové systémy, [což] může vést k rizikům, jako je narušení dat nebo vést ke škodlivým nebo jinak nežádoucím výsledkům modelu."

„Umělá inteligence by jako taková měla být bezpečná již od návrhu a zabezpečená ve výchozím nastavení, stejně jako všechny softwarové systémy,“ uvedla vládní agentura.

Poznamenal, že pokyny identifikují potenciální hrozby, jako jsou útoky na dodavatelský řetězec, a rizika, jako je nepřátelské strojové učení. Byly vyvinuty s odkazem na zavedené mezinárodní standardy a zahrnují zásady, které pomáhají odborníkům zavádět bezpečnostní kontroly a osvědčené postupy k ochraně systémů umělé inteligence.

Pokyny pokrývají pět fází životního cyklu AI, včetně vývoje, provozu a údržby a konce životnosti, přičemž poslední z nich zdůrazňuje, jak by se měly likvidovat data a artefakty modelu AI.

Při vývoji doprovodné příručky CSA uvedla, že spolupracovala s profesionály v oblasti umělé inteligence a kybernetické bezpečnosti, aby poskytla „zdroj řízený komunitou“, který nabízí „praktická“ opatření a kontroly. Tato příručka bude také aktualizována, aby udržela krok s vývojem na trhu zabezpečení AI.

Zahrnuje případové studie, včetně opravných útoků na systémy sledování rozpoznávání obrazu.

Protože se však kontroly zaměřují především na rizika kybernetické bezpečnosti pro systémy umělé inteligence, průvodce se nezabývá bezpečností umělé inteligence ani dalšími souvisejícími součástmi, jako je transparentnost a spravedlnost. Některá doporučená opatření se však mohou překrývat, uvedl CSA s tím, že průvodce nepokrývá zneužívání umělé inteligence při kybernetických útocích, jako je malware poháněný umělou inteligencí nebo podvody, jako jsou deepfakes.

Singapur však schválil novou legislativu, která zakazuje používání deepfakes a dalšího digitálně generovaného nebo manipulovaného online volebního reklamního obsahu.

Takový obsah zobrazuje kandidáty, kteří říkají nebo dělají něco, co neřekli nebo neudělali, ale je „dostatečně realistický“ na to, aby členové veřejnosti „přiměřeně věřili“, že zmanipulovaný obsah je skutečný.

Deepfakes zakázány z volebních kampaní

Návrh zákona (volební integrita online reklamy) (pozměňovací návrh) byl schválen po druhém čtení v parlamentu a zabývá se také obsahem generovaným pomocí AI, včetně generativní AI (Gen AI) a nástrojů bez AI, jako je sestřih, uvedl ministr pro digitální rozvoj. a informace Josephine Teo.

„Návrh zákona je zaměřen na řešení nejškodlivějších typů obsahu v souvislosti s volbami, což je obsah, který uvádí v omyl nebo klame veřejnost o kandidátovi prostřednictvím nepravdivého vyjádření jeho projevu nebo jednání, který je dostatečně realistický, aby se mu dalo rozumně věřit. některými členy veřejnosti,“ řekl Teo. "Podmínka realistickosti bude objektivně posouzena. Neexistuje žádná univerzální sada kritérií, ale lze uvést některé obecné body."

Ty zahrnují obsah, který se „těsně shoduje“ se známými rysy, výrazy a způsoby kandidátů, vysvětlila. Obsah také může používat skutečné osoby, události a místa, takže působí věrohodněji, dodala.

Většina široké veřejnosti může považovat obsah, který ukazuje, že premiér poskytuje investiční rady na sociálních sítích, za nepředstavitelný, ale někteří se stále mohou stát obětí takových podvodů s umělou inteligencí, poznamenala. "V tomto ohledu bude zákon platit, pokud budou existovat někteří členové veřejnosti, kteří budou důvodně věřit, že kandidát řekl nebo udělal to, co bylo vyobrazeno," řekla.

Toto jsou čtyři složky, které musí být splněny, aby byl obsah podle nové legislativy zakázán: byla online volební reklama digitálně vygenerována nebo zmanipulována a zobrazuje kandidáty, kteří říkají nebo dělají něco, co neudělali, a je dostatečně realistická, aby ji někteří považovali za na veřejnosti být legitimní.

Návrh zákona nestaví mimo zákon „rozumné“ používání umělé inteligence nebo jiných technologií ve volebních kampaních, řekl Teo, jako jsou memy, AI generované nebo animované postavy a kreslené filmy. Rovněž se nebude vztahovat na „neškodné kosmetické úpravy“, které zahrnují použití kosmetických filtrů a úpravu osvětlení ve videích.

Ministr také poznamenal, že návrh zákona se nebude vztahovat na soukromou nebo domácí komunikaci nebo obsah sdílený mezi jednotlivci nebo v rámci uzavřených skupinových chatů.

"To znamená, že víme, že falešný obsah může rychle kolovat na otevřených kanálech WhatsApp nebo Telegram," řekla. „Pokud bude oznámeno, že zakázaný obsah je sdělován ve velkých skupinových chatech, které zahrnují mnoho uživatelů, kteří jsou si navzájem cizí a jsou volně přístupné veřejnosti, bude taková komunikace spadat pod návrh zákona a my posoudíme, zda by mělo být přijato opatření. vzato."

Zákon se také nevztahuje na zprávy vydávané oprávněnými zpravodajskými agenturami, dodala, nebo na laika, který "nedbale" sdílí zprávy a odkazy, aniž by si uvědomil, že byl zmanipulován.

Singapurská vláda plánuje použít různé detekční nástroje k posouzení, zda byl obsah vygenerován nebo zpracován pomocí digitálních prostředků, vysvětlil Teo. Mezi ně patří komerční nástroje, interní nástroje a nástroje vyvinuté s výzkumníky, jako je Centrum pokročilých technologií pro online bezpečnost, řekla.

V Singapuru budou příslušným osobám, včetně služeb sociálních médií, vydány opravné pokyny k odstranění nebo zakázání přístupu k zakázanému obsahu online volební reklamy.

Poskytovateli služby sociálních médií, který nedodrží nápravný pokyn, může být udělena pokuta až do výše 1 milionu SG$. Všem ostatním stranám, včetně jednotlivců, které nedodrží pokyny k nápravě, mohou být uděleny pokuty až do výše 1 000 SG$nebo odnětí svobody až na jeden rok nebo obojí.

"V zemích, kde se konaly nebo jsou plánovány volby, došlo ke značnému nárůstu případů falešných falešných zpráv," uvedl Teo s odkazem na výzkum společnosti Sumsub, který odhaduje trojnásobný nárůst hloubkových falešných incidentů v Indii a více než 16krát v Jižní Koreji. oproti stavu před rokem.

"Dezinformace generované umělou inteligencí mohou vážně ohrozit naše demokratické základy a vyžadují stejně vážnou reakci," řekla. Nový návrh zákona zajistí "pravdivost reprezentace kandidátů" a integrita singapurských voleb může být zachována, dodala.

Je tento zdravotnický prostředek dostatečně zabezpečen?

Singapur se také snaží pomoci uživatelům obstarat zdravotnické prostředky, které jsou dostatečně zabezpečené. Ve středu ČSA spustily systém označování kybernetické bezpečnosti pro taková zařízení, čímž rozšířily program, který pokrývá spotřebitelské produkty internetu věcí (IoT).

Nová iniciativa byla vyvinuta společně s ministerstvem zdravotnictví, úřadem pro zdravotnické vědy a národní agenturou pro zdravotnické technologie Synapxe.

Štítek je navržen tak, aby indikoval úroveň zabezpečení zdravotnických prostředků a umožnil uživatelům zdravotní péče činit informovaná rozhodnutí o nákupu, uvedl CSA. Program se vztahuje na zařízení, která zpracovávají osobně identifikovatelné informace a klinická data, s možností shromažďovat, ukládat, zpracovávat a přenášet data. Vztahuje se také na lékařské vybavení, které se připojuje k jiným systémům a službám a může komunikovat prostřednictvím kabelových nebo bezdrátových komunikačních protokolů.

Produkty budou hodnoceny na základě čtyř úrovní hodnocení, zdravotnická zařízení úrovně 1 musí splňovat základní požadavky na kybernetickou bezpečnost, systémy úrovně 4 musí mít zvýšené požadavky na kybernetickou bezpečnost a musí také projít nezávislou binární analýzou softwaru třetích stran a hodnocením zabezpečení.

Uvedení na trh přichází po devítiměsíční izolované fázi, která skončila v červenci 2024, během níž 47 aplikací od 19 zúčastněných výrobců zdravotnických prostředků podrobilo své produkty různým testům. Patří mezi ně in vitro diagnostické analyzátory, softwarová binární analýza, penetrační testování a hodnocení bezpečnosti.

Zpětná vazba získaná z fáze izolovaného prostoru byla použita k doladění provozních procesů a požadavků schématu, včetně poskytnutí větší jasnosti aplikačních procesů a metodologie hodnocení.

Program označování je dobrovolný, ale ČSA vyzvaly k nutnosti přijmout „proaktivní opatření“ k ochraně proti rostoucím kybernetickým rizikům, zejména s tím, jak se zdravotnická zařízení stále více připojují k nemocničním a domácím sítím.

Zdravotnická zařízení v Singapuru musí být v současné době registrována u HSA a podléhají regulačním požadavkům, včetně kybernetické bezpečnosti, než mohou být dovezena a zpřístupněna v zemi.

CSA v samostatném oznámení uvedlo, že systém označování kybernetické bezpečnosti pro spotřebitelská zařízení je nyní v Jižní Koreji uznáván.

Dvoustranné dohody byly podepsány na okraj singapurské konference International Cyber Week 2024 tento týden s Korejskou agenturou pro internet a bezpečnost (KISA) a německým federálním úřadem pro informační bezpečnost (BSI).

V souladu s plánem vstoupit v platnost od 1. ledna příštího roku bude podle dohody z Jižní Koreje v obou zemích vzájemně uznávána certifikace KISA pro kybernetickou bezpečnost internetu věcí a singapurský štítek kybernetické bezpečnosti. Je to poprvé, kdy je asijsko-pacifický trh součástí takové dohody, kterou Singapur také uzavřel s Finskem a Německem.

Certifikační schéma Jižní Koreje zahrnuje tři úrovně - Lite, Basic a Standard - s laboratorními testy třetích stran, které jsou vyžadovány napříč všemi. Zařízení vydaná se základní úrovní budou považována za zařízení splňující požadavky úrovně 3 singapurského systému označování, který má čtyři úrovně hodnocení. Společnost KISA také uzná singapurské produkty úrovně 3 jako produkty splňující základní úroveň certifikace.

Štítky se budou vztahovat na spotřebitelská chytrá zařízení, včetně domácí automatizace, poplašných systémů a IoT bran.