Globálne trendy v oblasti regulácie AI – viete sa v nich orientovať?

Potenciál umelej inteligencie (AI) vytvárať pozitívny vplyv na ľudí bude závisieť od zodpovedného, na ľudí orientovaného prístupu, ktorého stredobodom je vytváranie hodnoty pre všetkých.

Tento článok napísali Nicola Morini Bianzino (EY Global Chief Technology Officer), Marie-Laure Delarue (Global Vice Chair, Assurance), Shawn Maher (EY Global Vice Chair, Public Policy) a Ansgar Koene (EY Global AI Ethics and Regulatory Leader), pričom obsahovo doň prispeli Katie Kummer (Deputy Global Vice Chair, Public Policy) a Fatima Hassan-Szlamka (Associate Director, Global Public Policy).

Zrýchľujúce sa možnosti generatívnej umelej inteligencie (GenAI) vrátane veľkých jazykových modelov (LLM), systémy využívajúce geolokačné údaje v reálnom čase, rozpoznávanie tváre a pokročilé kognitívne spracúvanie — to všetko spôsobilo, že sa regulácia AI dostala až na samý vrchol agendy tvorcov politík.

Rozhodne však nejde o jednoduchú úlohu. Napríklad v Európe chcú niektoré členské štáty liberalizovať používanie programov na rozpoznávanie tváre pre svoje policajné zložky, Európsky parlament však má iné plány a chce v rámci zákona o AI zaviesť prísne obmedzenia.¹  V rámci ďalšej diskusie o legislatíve v oblasti AI na inom kontinente vydalo indické ministerstvo elektroniky a IT v apríli tohto roka vyhlásenie, v ktorom sa jasne vyslovilo proti regulácii AI, konštatujúc, že India „zavádza nevyhnutné politiky a infraštruktúrne opatrenia umožňujúce rozvoj silného sektora AI, pričom neplánuje prijímať legislatívu regulujúcu jeho rast“.² K obratu však prišlo už v máji, keď minister IT oznámil, že India plánuje regulovať platformy AI ako ChatGPT, pričom „zvažuje regulačný rámec pre AI, ktorý zahŕňa oblasti ako algoritmické skreslenie či autorské práva“.³ Podobne sú na tom aj USA, ktoré síce v dohľadnom čase neplánujú prijať novú federálnu legislatívu o AI, no regulačné orgány ako Federálna obchodná komisia (FTC) v reakcii na obavy verejnosti týkajúce sa dosahu generatívnej AI začali v rozsiahlej miere vyšetrovať niektoré platformy AI.⁴

Umelá inteligencia transformuje rozmanitú škálu priemyselných odvetví, od financií a výroby po poľnohospodárstvo a zdravotníctvo tak, že zdokonaľuje ich činnosť a mení charakter práce. Prináša inteligentnejšie riešenia v oblasti riadenia vozového parku a logistiky, optimalizuje energetické prognózovanie, predstavuje efektívnejšie riešenia využívania nemocničných lôžok pomocou analýzy údajov o pacientoch a prediktívnych modelov, zlepšuje kontrolu kvality vo vyspelej výrobe a spotrebiteľovi prináša personalizované skúsenosti. Zavádzajú ju aj vlády, ktoré rozpoznali, že AI vie obyvateľom prinášať lepšie služby pri nižšom daňovom zaťažení.Vďaka skutočnosti, že do AI celosvetovo investuje aj súkromný sektor, sú investičné úrovne teraz až 18-krát vyššie ako v roku 2013.⁵ Možno teda konštatovať, že AI má potenciál byť silnou hnacou silou ekonomického rastu a kľúčovým faktorom pre verejné služby.

Realitou sú však aj riziká a nezamýšľané dôsledky GenAI. Zneužiť možno napríklad modely generujúce text, ktoré dokážu presvedčivo napodobniť mnohé registre. A čo softvér na imitáciu hlasu, ktorý dokáže napodobniť spôsob reči tak dobre, že presvedčí pracovníka banky, kolegu na pracovisku či priateľa? O chatbotoch je zas známe, že vedia podvádzať pri testovaní. Platformy AI môžu udržiavať, ba až posilňovať historicky zakorenené predsudky ľudí (napr. na základe pohlavia, rasy alebo sexuálnej orientácie), narúšať osobné práva, ohrozovať bezpečnosť údajov, generovať dezinformácie, destabilizovať finančný systém a spôsobovať iné formy disrupcie na celom svete. Niet pochýb, že v stávke je naozaj veľa.

Zákonodarcovia, regulačné orgány a orgány vydávajúce štandardy začínajú vyvíjať rámce, ktorými by sa maximalizovali benefity AI pre širokú spoločnosť a na druhej strane zmierňovali jej riziká. Tieto rámce musia byť odolné, transparentné a spravodlivé. S cieľom poskytnúť prehľad o vyvíjajúcom sa regulačnom prostredí spoločnosť EY (EY) vykonala analýzu regulačných prístupov v týchto ôsmich jurisdikciách: Kanada, Čína, Európska únia (EÚ), Japonsko, Kórea, Singapur, Spojené kráľovstvo (UK) a Spojené štáty americké (USA). Informácie týkajúce sa konkrétnych pravidiel a politických iniciatív boli získané zo strediska Organizácie pre ekonomickú spoluprácu a rozvoj (OECD) pre sledovanie politík v oblasti AI⁶, pričom tieto zdroje sa uvádzajú v celej správe, konkrétne v jej prílohe.

Na základe identifikovaných trendov môžu podniky už teraz prijať minimálne tri opatrenia, aby zostali o krok vpred pred rýchlo sa vyvíjajúcim regulačným prostredím v oblasti AI.

1. Oboznámte sa s platnými predpismi týkajúcimi sa AI na trhoch, v rámci ktorých pôsobíte. Ak už máte vo svojom podniku v oblasti AI zavedené interné zásady, môžete ich s týmito princípmi a akýmikoľvek súvisiacimi normami dohľadu zosúladiť.
2. Vytvorte komplexné a jasné štruktúry v oblasti správy a riadenia, ako aj v oblasti riadenia rizík doplnené príslušnými protokolmi, a v primeranom rozsahu aj mechanizmy zodpovednosti, aby ste zlepšili spôsob riadenia technológií AI.
3. Zapojte sa do dialógu s predstaviteľmi verejného sektora a iných oblastí, aby ste sa lepšie oboznámili s vyvíjajúcim sa regulačným prostredím a zároveň mohli poskytnúť informácie a poznatky, ktoré môžu byť pre tvorcov politík užitočné.

Aby sa v prístupoch v oblasti správy a riadenia dosiahla správna rovnováha medzi vládnym dohľadom a inováciami, je dôležité, aby sa spoločnosti, tvorcovia politík a ďalšie zainteresované strany zapájali do otvorených rozhovorov. Všetky tieto strany vstupujú do neprebádaných vôd a snažia sa nájsť nové možnosti, ktoré prináša AI. Budú potrebné nové pravidlá. Našťastie, ako vyplýva z nášho prehľadu, medzi jednotlivými krajinami existuje široká zhoda na základných princípoch, ktorými sa má riadiť používanie AI. Tvárou v tvár okamihu, ktorý prináša nové možnosti a zároveň nebezpečenstvo, teraz je ten správny čas spolupracovať na zavádzaní týchto princípov do praxe.