Jan Pich: Umělá inteligence je pouze tak dobrá, jaká jsou data, na nichž je vyškolena

Jan Pich, Cyber Security Manager, který se svým týmem zajišťuje v EY Česká republika služby kybernetické bezpečnosti, poskytl magazínu e15 rozhovor věnující se současné problematice umělé inteligence.

Co všechno si pod AI lze představit a jak rychle se tato technologie vyvíjí?

AI neboli umělá inteligence je moderním oborem informatiky, který se snaží vytvořit systémy, jež mohou napodobit lidské schopnosti, jako je například rozhodování, učení, vnímání a analýza dat. V podstatě je to počítačový software navržený tak, aby „myslel“ a „učil se“ podobně jako lidský mozek.

Když se podíváme na poslední dekádu, technologie AI zažila prudký nárůst. Ačkoliv existuje mnoho typů, v současné době zažívá největší boom generativní AI. To je typ umělé inteligence, který dokáže tvořit nový obsah – ať už jde o text, obrázky, hudbu, nebo dokonce celé návrhy produktů. S obrázky, jejichž autorem je umělá inteligence, anebo takto vytvořenými texty se dnes člověk setkává denně a na první pohled jsou často nerozpoznatelné od klasických, člověkem vytvořených obrázků a článků.

Firmy po celém světě vidí ve využití umělé inteligence obrovský potenciál. Díky AI mohou podniky automatizovat složité a opakující se úkoly, které by člověku běžně trvaly hodiny, nebo dokonce dny. To vede k úspoře času a nákladů a zvyšuje to produktivitu. Podle studie EY z července 2023 (CEO Outlook Pulse), které se zúčastnilo na 1200 generálních ředitelů (CEO) velkých firem po celém světě, je důvěra generálních ředitelů velkých firem v přínosy umělé inteligence mírněna obavami z neznámých důsledků, které tato technologie může přinést. Téměř polovina z nich ale i přes obavy plánuje v příštích 12 měsících do umělé inteligence vložit významný kapitál.

AI je často prezentována jako revoluční nástroj s mnoha výhodami. Na jaká případná rizika nebo nevýhody spojené s rozvojem a implementací AI by si firmy měly dát pozor?

Umělá inteligence přináší mnoho výhod, jak jsem zmiňoval, může automatizovat složité úkoly, šetřit čas, snižovat náklady a zvyšovat produktivitu. Jako každá inovace však má své temné stránky.

Z rozsáhlého užívání AI plynou jisté bezpečnostní hrozby. Například může být využita k vytváření sofistikovaného škodlivého softwaru, který může obcházet tradiční bezpečnostní systémy. Také může být použita k manipulaci s informacemi nebo k vytváření falešných zpráv.

V neposlední řadě vnímáme, že příliš velká závislost na umělé inteligenci může snižovat lidské schopnosti. Pokud se budeme spoléhat na technologie až příliš, můžeme ztratit některé ze svých vlastních dovedností a schopností.

Klíčem je najít správnou rovnováhu mezi využitím přínosů a minimalizací potenciálních nevýhod. S postupným vývojem umělé inteligence se budeme muset postarat my, aby byla využívána zodpovědně a prospěšně pro celou společnost.

Pohledem bezpečnostních hrozeb, jaké konkrétní problémy může představovat AI?

V kontextu kybernetické bezpečnosti si umělou inteligenci můžeme představit jako dvojsečný meč. Na jedné straně může AI pomáhat v boji proti kybernetickým hrozbám tím, že identifikuje a blokuje útoky v reálném čase. Na druhé straně ale může být zneužita k vytváření sofistikovanějších a cílenějších kybernetických útoků. Největší problémy, které v dané oblasti aktuálně vnímáme, jsou:

• Generování škodlivého kódu pomocí AI
  • Generativní nástroje umělé inteligence mají schopnost „psát“ neboli generovat kód. Tato schopnost může být obrovským přínosem pro programátory, může ale také sloužit potenciálním útočníkům. I člověk bez hlubokých technických znalostí může být s pomocí AI nástrojů schopen vytvořit škodlivý kód, který dokáže napáchat značné škody v digitálním prostoru. Ačkoli většina generativních nástrojů má zabudované zabezpečovací prostředky, které by měly vytváření škodlivého kódu zabránit, vynalézaví útočníci hledají způsoby, jak tyto zábrany obejít. Útočníci mohou klást různé dotazy nebo modifikovat vstupy tak, aby nástroj „napomohl“ ve vytváření potenciálně škodlivých kódů.
• Automatizace a škálování útoků
  • S pomocí AI mohou útočníci automatizovat a škálovat své útoky, což znamená, že mohou napadat mnoho systémů nebo zařízení současně. Toto škálování může znamenat, že útoky mohou být rychlejší, efektivnější a těžší k detekci.
• AI nástroje navržené specificky pro kybernetické útočníky
  • Zatímco většina AI nástrojů, s nimiž se setkáváme v každodenním životě, je navržena tak, aby byla prospěšná a produktivní, existuje i temná stránka tohoto technologického spektra. Některé nástroje AI jsou vytvořeny s jediným cílem a to sloužit kybernetickým zločincům.
  • Jak už jsem zmiňoval, tradiční generativní nástroje mají zabudovaná ochranná opatření, která zabraňují generování škodlivého kódu. Tyto zábrany byly integrovány s úmyslem chránit uživatele a širší kybernetickou komunitu. Avšak nástroje navržené speciálně pro útočníky tyto zábrany úmyslně vynechávají. Stojí za zmínku, že tyto nástroje nejsou snadno dostupné. Jejich cena je často mnohem vyšší, což odráží jak jejich potenciální škodlivost, tak i omezený trh, na který jsou určeny.

• Nástroje pro tvorbu deepfaků
  • Technologie deepfaků představuje jednu z nejkontroverznějších funkcí umělé inteligence. AI využívá pokročilých algoritmů k vytvoření nápadně realistických audiovizuálních záznamů, které však neodpovídají skutečnosti. Ačkoli může mít mnoho kreativních využití, například ve filmovém průmyslu, je zde také velmi temná stránka.
  • Deepfaky mohou být zneužity k  šíření nepravdivých informací a dezinformací s cílem ovlivňovat veřejné mínění nebo diskreditovat jednotlivce. Díky sofistikovanosti těchto nástrojů může být těžké rozpoznat, zda jsou video nebo audio autentické, nebo zda s nimi bylo manipulováno. Mohou například vytvořit „důkazy“ o něčem, co se nikdy nestalo, což s sebou nese vážné důsledky v oblastech, jakými jsou politika, obchodní vztahy nebo osobní životy lidí napříč společností.
  • Největší obavu vzbuzuje schopnost těchto nástrojů replikovat vzhled, hlas, a dokonce i specifické manýry a mimiku osoby s takovou přesností, že je výsledek téměř nerozpoznatelný od skutečného člověka. Příkladem může být nedávná kauza, kdy se pomocí nástrojů AI „svlékají“ osoby na fotografiích. Toto téma vnímáme jako velmi vážnou hrozbu, která bude součásti hybridních válek a dezinformačních kampaní.
• Diskriminační a zkreslené algoritmy
  • Umělá inteligence je pouze tak dobrá, jako jsou data, na nichž je vyškolena. Když se AI systémy vyvíjejí na základě dat, která obsahují skryté nebo otevřené předsudky, může to mít za následek vznik algoritmů, které tato zkreslení nejen odrážejí, ale mohou je i zesilovat. Toto zkreslení může často být i neúmyslné.
  • Takové problematické algoritmy mohou v praxi vést k řadě negativních důsledků. Například v oblasti lidských zdrojů může AI, která je používána k selekci kandidátů na pracovní místa, neúmyslně upřednostňovat nebo diskriminovat určité skupiny lidí na základě věku, pohlaví, etnicity či jiných faktorů. Ve finančním sektoru může zkreslený algoritmus vedoucí k poskytování půjček znevýhodňovat určité demografické skupiny.

Co doporučujete při implementaci AI nástrojů do firem?

Při implementaci AI nástrojů našim zákazníků vždy doporučujeme několik klíčových kroků:

• Než s implementací vůbec začnete, měli byste jasně chápat, čeho chcete s AI dosáhnout. Chcete zefektivnit procesy, zlepšit zákaznický servis, získat hlubší analýzy dat nebo něco jiného?
• Je důležité vybrat nástroj, který nejlépe vyhovuje potřebám vaší společnosti a konkrétnímu významu, v němž se bude AI používat.
• Je zásadní chránit data a soukromí svých zákazníků a zaměstnanců. Ujistěte se, že jakákoli AI aplikace, kterou implementujete, splňuje příslušné bezpečnostní normy a nařízení.
• Zajistěte, že vaše AI řešení je transparentní a eticky navržené.
• Zaměstnanci by měli být školeni na práci s novými nástroji. Investice do vzdělávání a školení je klíčová pro to, aby se AI nástroje staly efektivní součástí vašeho podnikání.
• AI je rychle se vyvíjející pole. Je důležité pravidelně aktualizovat a revidovat nástroje, které používáte, aby zůstaly relevantní a efektivní. Implementace AI může mít pro současnou společnost obrovské výhody, ale je důležité jednat promyšleně a s ohledem na výše uvedená expertní doporučení.

Tým EY Cyber Security Česká republika nesoustřeďuje své odborné znalosti pouze na tradiční bezpečnostní hrozby, ale výrazně rozšířil své působení v aktuální tématech jako je umělá inteligence (AI). Díky tomu nabízí klientům a partnerům špičkové služby a řešení, které jsou na přední linii technologického pokroku. Tým zahrnuje přední odborníky na bezpečnost AI a ve spojení s týmem inovací zajišťuje implementaci AI v podnikovém prostředí nejen inovativní, ale také bezpečnou.

Kromě toho se EY experti nevěnují pouze aspektům bezpečnosti, ale rovněž využívají AI k posílení výkonnosti a efektivity vašeho podnikání. EY je tak silným partnerem, který vás komplexně provede světem AI, pomůže vám využít její plný potenciál a zajistí, že vaše investice do této oblasti bude smysluplná a výnosná. Jste připraveni objevit, co pro vás AI může udělat?