Vì sao AI vừa là rủi ro vừa là cách quản lý rủi ro

Các vấn đề chính mà hội đồng quản trị cần cân nhắc khi triển khai công nghệ trí tuệ nhân tạo.

AIcó thể cải thiện các quy trình ra quyết định phức tạp, đó là lý do tại sao nó là chất xúc tác cho sự chuyển đổi trong mọi ngành. Nó cho phép hoàn thành các nhiệm vụ khó khăn và tốn thời gian một cách hiệu quả hơn, đồng thời có thể cung cấp cho nhóm quản lý cái nhìn sâu sắc chưa từng có trước đây.

Học máy – một dạng AI trong đó các thuật toán máy tính được cải thiện theo thời gian thông qua kinh nghiệm sử dụng dữ liệu – đóng vai trò ngày càng nổi bật trong quản lý rủi ro doanh nghiệp. AI có thể được sử dụng để tạo ra các công cụ tinh vi nhằm theo dõi và phân tích hành vi và hoạt động theo thời gian thực. Vì các hệ thống này có thể thích ứng với môi trường rủi ro thay đổi nên chúng liên tục nâng cao khả năng giám sát của tổ chức trong các lĩnh vực như tuân thủ quy định và quản trị doanh nghiệp. Chúng cũng có thể phát triển từ hệ thống cảnh báo sớm thành hệ thống học sớm giúp ngăn chặn các mối đe dọa thực sự xảy ra.

Giảm thiểu rủi ro

Mặc dù AI vẫn đang trong quá trình phát triển, nhưng nó đã có thể được sử dụng để giảm thiểu rủi ro trong một số lĩnh vực quan trọng. Ví dụ, máy học có thể hỗ trợ dự đoán sáng suốt hơn về khả năng một cá nhân hoặc tổ chức vỡ nợ hoặc không trả nợ, và có thể được sử dụng để xây dựng các mô hình dự báo doanh thu biến đổi.

Trong nhiều năm, máy học đã phát hiện thành công gian lận thẻ tín dụng. Các ngân hàng sử dụng các hệ thống đã được đào tạo về dữ liệu thanh toán lịch sử để theo dõi các khoản thanh toán nhằm phát hiện hoạt động gian lận tiềm ẩn và ngăn chặn các giao dịch đáng ngờ. Các tổ chức tài chính cũng sử dụng hệ thống tự động để giám sát các nhà giao dịch của mình bằng cách liên kết thông tin giao dịch với các thông tin hành vi khác như lưu lượng email, mục lịch, thời gian nhận và trả phòng tại tòa nhà văn phòng, thậm chí cả cuộc gọi điện thoại.

Các nền tảng phân tích dựa trên AI có thể quản lý rủi ro của nhà cung cấp bằng cách tích hợp nhiều thông tin khác nhau về nhà cung cấp, từ môi trường địa lý và địa chính trị cho đến điểm rủi ro tài chính, tính bền vững và trách nhiệm xã hội của doanh nghiệp.

Cuối cùng, các hệ thống AI có thể được đào tạo để phát hiện, giám sát và đẩy lùi các cuộc tấn công mạng. Họ xác định phần mềm có một số đặc điểm riêng biệt – ví dụ, xu hướng tiêu thụ nhiều năng lượng xử lý hoặc truyền nhiều dữ liệu – rồi sau đó ngăn chặn cuộc tấn công.

Rủi ro liên quan đến việc áp dụng AI

Bên cạnh những lợi ích này, AI cũng là nguồn gốc gây ra những rủi ro mới đáng kể cần phải được quản lý. Vì vậy, điều quan trọng là phải xác định những rủi ro liên quan đến từng ứng dụng AI riêng lẻ và từng đơn vị kinh doanh sử dụng ứng dụng đó.

Một số rủi ro chính liên quan đến AI bao gồm:

• Sai lệch thuật toán: Thuật toán học máy xác định các mẫu trong dữ liệu và mã hóa chúng thành các dự đoán, quy tắc và quyết định. Nếu những mô hình đó phản ánh một số thành kiến hiện có, thì các thuật toán có khả năng khuếch đại thành kiến đó và có thể tạo ra những kết quả củng cố các mô hình phân biệt đối xử hiện có.
• Đánh giá quá cao khả năng của AI: Vì các hệ thống AI không hiểu được các nhiệm vụ chúng thực hiện và dựa vào dữ liệu đào tạo nên chúng không hoàn hảo. Độ tin cậy của kết quả nghiên cứu có thể bị ảnh hưởng nếu dữ liệu đầu vào bị thiên vị, không đầy đủ hoặc chất lượng kém.
• Lỗi lập trình: Khi có lỗi, thuật toán có thể không hoạt động như mong đợi và có thể đưa ra kết quả sai lệch gây hậu quả nghiêm trọng.
• Nguy cơ tấn công mạng: Tin tặc muốn đánh cắp dữ liệu cá nhân hoặc thông tin bí mật của công ty ngày càng có khả năng nhắm vào các hệ thống AI.
• Rủi ro và trách nhiệm pháp lý: Hiện tại, có rất ít luật quản lý AI, nhưng điều đó sắp thay đổi. Các hệ thống phân tích khối lượng lớn dữ liệu người tiêu dùng có thể không tuân thủ các quy định hiện hành và sắp ban hành về quyền riêng tư dữ liệu, đặc biệt là Quy định bảo vệ dữ liệu chung của EU.
• Rủi ro về danh tiếng: Hệ thống AI xử lý lượng lớn dữ liệu nhạy cảm và đưa ra quyết định quan trọng về cá nhân trong nhiều lĩnh vực bao gồm tín dụng, giáo dục, việc làm và chăm sóc sức khỏe. Vì vậy, bất kỳ hệ thống nào có sự thiên vị, dễ xảy ra lỗi, bị tấn công hoặc sử dụng cho mục đích phi đạo đức đều gây ra rủi ro đáng kể về uy tín cho tổ chức sở hữu nó.