Чому штучний інтелект (AI) — водночас ризик і спосіб управління ризиком

Основні питання, які слід розглянути радам директорів, коли вони запроваджують штучний інтелект.

Штучний інтелект (AI) може вдосконалити процеси прийняття рішень. Він є стимулом для перетворень у кожній галузі. Технологія ефективно виконує складні рутинні завдання й надає керівництву дані, які раніше не можна було зібрати.

Машинне навчання — форма AI, у якій комп’ютерні алгоритми з часом вдосконалюються завдяки досвіду використання даних — відіграє дедалі більш помітну роль в управлінні ризиками підприємства. AI можна використовувати для створення складних інструментів аналізу поведінки й діяльності в режимі реального часу. Технологія може пристосовуватися до змін у середовищі, тому вона розширює моніторинговий потенціал організації в таких сферах, як дотримання регуляторних норм і корпоративне управління. Вона може бути не тільки системою раннього попередження, але й системою раннього навчання, що запобігає втіленню загроз.

Послаблення ризиків

Хоча AI все ще розвивається, його вже можна використовувати для зменшення ризиків у деяких ключових сферах. Наприклад, машинне навчання може прогнозувати ймовірність несплати позики чи платежу фізичною особою чи організацією. Це можна використати для побудови моделей прогнозування доходу зі змінними.

Протягом багатьох років за допомогою машинного навчання успішно виявляли шахрайство з кредитними картками. Банки використовують системи, що ознайомлені з даними платіжного балансу за минулі роки, щоб моніторити платежі на предмет потенційної шахрайської діяльності й блокувати підозрілі транзакції. Фінансові установи також використовують автоматизовані системи для контролю своїх фахівців, пов'язуючи інформацію про торгівлю з іншою інформацією щодо поведінки, такою як трафік електронної пошти, записи в календарі, час прибуття та виходу з офісу та навіть телефонні дзвінки.

Аналітичні платформи на основі AI можуть управляти ризиками, пов’язаними з постачальниками. Вони узагальнюють різноманітну інформацію про постачальників, починаючи з їхнього географічного та геополітичного середовища, до фінансових ризиків, стійкості й оцінки соціальної відповідальності підприємств.

Системи AI можна навчити виявляти, відстежувати та відбивати кібератаки. Вони ідентифікують програмне забезпечення з певними відмінностями — наприклад, висока процесорна потужність або передача великих масивів даних — і потім припиняють цю атаку.

Ризики, пов’язані з впровадженням штучного інтелекту

Попри всі переваги штучний інтелект також є джерелом нових ризиків, якими треба управляти. Тому важливо визначати ці ризики, що стосуються кожної окремої програми й кожного бізнес-підрозділу, що використовує технологію.

Деякі з ризиків, що пов’язані з AI:

• Упередженість алгоритмів: алгоритми на основі машинного навчання визначають закономірності даних та кодифікують їх у прогнозах, правилах та рішеннях. Якщо ці закономірності відображають деякі існуючі упередження, алгоритми, ймовірно, посилять це упередження, що може призвести до посилення дискримінації.
• Перебільшення можливостей AI: оскільки системи AI не розуміють завдань, що вони виконують, і покладаються на свої навчальні дані, вони далеко не безпомилкові. Достовірність їхніх результатів може бути під загрозою, якщо вхідні дані будуть упередженими, неповними або низької якості.
• Програмні помилки: помилка в алгоритмах призводить до помилкових результатів, що може мати серйозні негативні наслідки.
• Ризик кібератак: хакери, які хочуть викрасти особисті дані або конфіденційну інформацію про компанію, дедалі частіше обирають своєю ціллю системи AI.
• Юридичні ризики та зобов'язання наразі існує невелика кількість законів, що регулюють сферу AІ, але це може змінитися. Системи, що аналізують великі обсяги даних про споживачів, можуть не відповідати чинним та майбутнім регламентам із конфіденційності даних, особливо Загальному регламенту про захист даних ЄС (GDPR).
• Репутаційні ризики: системи на основі AI обробляють велику кількість конфіденційних даних та приймають критично важливі рішення щодо окремих людей у різних сферах, включаючи кредити, освіту, зайнятість та охорону здоров'я. Таким чином, будь-яка система, що зазнала атаки або використовується для неетичних цілей, створює суттєві репутаційні ризики для організації.