人工智慧為金融服務業帶來風險和機會 — 金融服務業領導峰會《視點》

金融服務業領導峰會彙集了金融服務領域董事會成員、高階主管和利害關係人以及其他相關領域專家。《視點》對峰會中討論的內容進行彙整，旨在解決迫在眉睫的問題、提高金融市場公信力。

概要

• AI技術發展迅速
• 金融服務業不斷湧現新的AI應用
• 生成式AI帶來額外風險
• 金融機構正處於調整治理和監督模式的早期階段

自OpenAI於2022年下半年推出ChatGPT以來，許多知名人士就人工智慧（AI）對社會的影響發表看法。比爾·蓋茲（Bill Gates）表示，ChatGPT具有「革命性」，是「自圖形使用者介面以來最重要的技術進步」¹。Google執行長Sundar Pichai認為，AI的快速發展「將影響每家公司的每一款產品」，他表示「社會需要適應AI」²。

但並非所有人都看好AI前景。今年3月，包括特斯拉聯合創辦人馬斯克（Elon Musk）和蘋果公司聯合創辦人Steve Wozniak在內的一批技術專家、學者和商界領袖聯名簽署信函，呼籲在六個月內暫停訓練世界上最先進的AI模型。簽署者認為，先進AI技術開發必須根據審慎規劃和合作。信中寫道：「很遺憾，目前的規劃和管理水準並不到位 - 儘管最近幾個月，各人工智慧實驗室陷入失控的角逐賽道，爭相開發和部署更強大的數位思維，但沒有人（即使是創造者）能理解、預測或可靠地控制這些數位思維。」³

關於AI的討論引起了金融服務業高層的關注，他們認為AI技術可能創造新的機會，但也會給金融機構和社會帶來新的風險。一位與會董事指出：「關於AI的討論令人振奮，同時也會感到恐慌。」⁴

6月13日至14日，多家大型銀行、保險公司、資產管理公司和金融科技公司的董事和高階主管、監管人士以及其他產業專家聚首2023年金融服務業領導峰會，與會者討論AI的發展、應用及大型金融機構所面臨的挑戰。

AI 發展迅速

對於企業高層而言，不去理會與新興技術相關的炒作可能非常困難。但如果這項技術，如同AI一樣，帶來重大風險或機會，那麽這樣做又是必需的。雖然大型銀行和保險公司利用AI執行某些功能已有一段時間，但一些與會者認為，ChatGPT和類似生成式AI工具的出現代表AI取得了重大進展。他們指出，AI可能會帶來變革式影響。一位與會者表示：「我們正經歷AI的爆發式成長，但人類很難掌控這一切……我們正處在AI發展的轉折點，很顯然，這將成為一個社會性的轉折點。」

但也有與會者質疑AI是否有別於過去的技術發展。一位與會董事提出這樣的問題：「自電腦誕生以來，人類可能會變得無關緊要，這項威脅一直存在。30年前，交易大廳有100名股票交易員，如今有99名演算法工程師和一名交易員。這說明工作離不開人，只不過是從語言溝通轉變為代碼編寫。那麽，AI技術有何不同？」

金融服務機構開始嘗試使用生成式AI，初步成果令許多機構驚嘆。一位與會高階主管表示：「生成式AI出現後，我們決定試試。我們一直在後臺使用這些大型語言模型，並研究其功能。我們很快發現，這些功能表現驚艶，實現了很大的突破。」另一位與會者預測，AI將繼續快速發展，「我們將在未來五年內打破認知。」

隨著AI的進步，整個社會對其前景感到樂觀的同時，也存在深深的不安感。一位與會者表示：「AI技術將造福人類，廣泛應用於多個領域，不僅關乎健康，還將長期提升我們的生活品質……由於機器學習的出現，我們的知識水準將大幅提高。AI適用甚廣，非常有益。」一位與會者自稱為「恐懼的樂觀主義者」認為，有些恐懼是「對進步的合理反應」，但也強調AI技術可能帶來諸多益處，停止AI發展並不可行，因此，不要暫停模型開發。該與會者建議，金融機構應繼續嘗試使用這些新工具，因為「技術應用得越多，越不覺得恐懼，反而越興奮。」另一位與會高階主管表示贊同：「我覺得AI發展勢不可擋。趨勢不可逆轉，AI的影響無處不在。AI留給我們適應的時間遠少於網際網路，它將加速發展，並產生變革性影響。」

金融服務業不斷湧現新的 AI 應用

大型金融服務機構過去已使用AI來提高營運效率、改善客戶體驗、降低經營風險、推動組織創新。自ChatGPT問世以來，AI模型越來越強大，部署速度也越來越快。「我們一直在研究生成式AI」，一位與會者指出，「我們正處於開發階段。我們在世界各地部署，讓所有人都可以使用AI界面。」金融機構仍在測試這些工具，以深入瞭解其功能，並且開始使用。一位與會高階主管表示：「銀行目前正在摸索階段。我們都認可AI的價值，它可能節省成本。」

與會者指出，生成式AI工具可以帶來如下益處。

• 提高客戶服務品質。大型語言模型（LLM）有望增強客戶服務數位化工具，利用客戶資訊提供更個性化、更高效率的服務。一位與會高階主管指出：「AI讓這些工具更加強大。現在的聊天機器人只能回答它們知道的問題，不多也不少。不久以後，它們將能夠回答自己不知道的問題。」更強大的數位化輔助工具有助於緩解前臺員工壓力，同時提供更好的客戶體驗。證據顯示，初步試驗前景看好。帕蘭提爾科技公司（Palantir）最近宣布，旗下有一款尚未正式上市的AI產品，其需求之大「前所未有」。一位保險業客戶在獲准提前使用該產品的幾天內，建立了一個「協作式AI代理」來自動處理理賠事宜。帕蘭提爾公司表示，該客戶認為這一工具比競爭對手的產品「領先數年」5。
• 加快並改善文件覆核和數據分析。銀行和保險公司在正常業務過程中會生成大量文件和數據。要在各個保單、表格和資料庫中搜尋具體資訊，可能費時又繁瑣。先進的大型語言模型（LLM）可以幫助加速這一過程，並生成新的資訊。一位與會保險業高階主管解釋：「保險公司的文件和報告中含有大量專業知識和資訊。LLM可幫助理解先前難懂的資訊。」該與會者還表示：「我們注重語言能力和措辭。在核保和建立保單時，我們必須完成跨國家、語言、法律法規、保單、免責條款等的翻譯。GPT-4能夠找出合約和保單中的措辭差異，並且可以識別多種不同語言。」更快地識別這些差異，有助於核保人員或資料科學家將時間投入到更有意義的工作上，並且預防「洩漏或成本過高的情況」，從而節省成本。另一位與會高階主管表示：「我們可以採用ChatGPT處理資料，搜尋結果將更加出色；也可用於股票研究和其他業務領域。」
• 簡化軟體開發，實現軟體開發大眾化。一位與會者預測：「GPT將徹底改變軟體業，普通人也將具備程式設計能力。」一位與會高階主管稱，這將透過「提示工程」來實現，即軟體開發人員使用生成式AI助手Copilot協同工作，「直接使用自然語言而非程式設計語言」。這一流程將大大減少工程師在軟體開發上花費的時間。一位與會高階主管預測，效率將提高40%。雖然對頂尖技術人才的需求在短期內不會得到緩解，但技術背景較弱的人員可以透過提示工程執行開發流程，從而緩解人才供應短缺。一位與會者預測「英語專業或將再度成為熱門」，因為需要有能力「表達細微差別從而指導和訓練這些模型」的人才 。
• 管理原有平臺。與會者認為，在最終遷移到更現代化的平臺之前，可以利用生成式AI工具提高對舊系統的管理效率。一位與會高階主管表示：「每個銀行或保險公司都有處於運行狀態的老舊系統，沒有人瞭解這些系統，即使維持這些系統現狀，生成式AI也會告訴你它們在做什麽。生成式AI可以幫助你瞭解這些系統，為轉型做好準備。」
  

儘管與會者對生成式AI的初步應用情境抱著一定熱忱，但他們表示，在生成式AI技術成熟週期的階段中，仍有一些領域是他們不願探索的。例如，一些機構僅使用生成式AI處理自有資料。一名與會高階主管表示：「我們不想接觸任何外部資料。我們不接觸外部世界，這確實限制了效率。」另一位與會者表示，他們只在內部使用這些工具，「我們還沒有用它與客戶互動；這還不是我們的優先工作事項。」

生成式 AI 帶來額外風險

大型金融機構在考慮如何使用 AI 的同時，還需要降低這一技術帶來的風險。一些風險並不陌生，但隨著生成式 AI 的日益普及，其他風險也在不斷出現。與會者指出他們在部署這些工具時所關注的一些問題。

• 緊跟技術變革的步伐。AI的飛速發展引發了深刻的問題，即使是具有技術背景的人才也不例外。一位與會資深人士承認：「我從事變革性技術工作已有40多年......這是我第一次感受到，變革的速度超過了我們所能理解和管理變革的能力。」另一位與會者指出：「從 GPT-1、GPT-2到 GPT-3.5再到GPT-4，AI實現了巨大飛躍。」我們很難將AI的炒作與現實區分開來，並在發生狀況時，及時處理且做出明智決策。一位與會者認為：「我們將面臨變革速度的挑戰......培訓一門新學科可能會成為一項艱難的任務。」
• 分清事實與虛構。眾所皆知，生成式AI工具生成的結果有時令人嘆服，但有時毫無真實性。與會者認為這些「幻覺」是AI模型的特有現象。一位與會者指出：「ChatGPT是一個概率模型，它與人類認知非常不同。問題隨之而來。例如，ChatGPT會產生幻覺，提出捏造、不真實的資訊。」將機率結果解釋為事實陳述可能會誤導我們，就像同業給出的意見可能會有偏見。另一位與會者表示：「我們不應該輕信這些結果，就像出門在外不應該相信任何人一樣，我們需要考慮AI給出答案的機率分布。」
• 監控可能存在的偏見和意外後果。AI 應用日趨複雜，可能產生偏見。一位與會者表示：「大多數演算法反映了演算法制定者的偏見。大多數演算法制定者是美國西岸的白人，我們已經發現快遞應用程式依據郵遞區號，加快為白人上流社會的送貨速度。」金融服務業也出現了類似的問題。一位與會董事表示，某銀行測試使用 AI 處理信貸申請時，他們震驚地發現，「在兩周內，AI 完全根據郵遞區號發放貸款。它不能這麽做。」
  為了避免偏見，許多高層不願將AI應用於授信和貸款審核流程等領域，因為在這些領域，金融機構可能需要向客戶和監理機關解釋他們做出特定決策的原因。一位與會高階主管表示：「我們必須非常謹慎地在獲取資訊並將其呈現給投保人或經紀人與真實建議之間劃清界限，否則會違反大量規則。」
• 加強網路和其他安全防護措施。一位與會董事表示：「我非常擔憂國家支持的網路行動、網路威脅、舞弊、網路釣魚。我們將會看到網路騙子如何利用AI來提高其效率。」另一位與會者也有此類擔憂：「生成式AI的本質是生成新的文字、圖片和音檔，因此，舞弊和網路攻擊也必然會增加。」另一位與會者提醒：「透過操縱資料湖和破壞資料就可以操縱演算法。」但是，一位與會者比較樂觀：「是的，我們必將面臨更多的舞弊和網路攻擊，但防護因應措施也會越來越先進。那麽，我們如何利用AI工具加強防禦呢？」

金融機構在因應這些風險的同時，還需要關注不斷變化的監管環境，因為這也可能給金融機構帶來新的挑戰。一位與會者指出：「OpenAI執行長Sam Altman對其協助創造的技術感到不安。他要求由世界各地的監管機構和政策制定者對AI進行監管。」該與會者警告：「隨著社群媒體的發展，操縱選舉、濫用兒童資料、心理健康問題等隨之而來。這是一場在沒有監管的情況下部署技術的社會實踐。」金融機構領導者希望政策制定者更加積極主動地監督AI的發展。一位與會者表示：「我們通常在出現問題且一發不可收拾的情況下才進行監管。」

但是，政策制定者正在採取行動。美國拜登政府已經宣布一系列倡議，以指導對AI技術的應用，歐洲可能率先監管AI技術。目前，歐洲議會正在審議《人工智慧法案》，其中包括根據風險對AI系統進行分類、對風險較高的系統實施更嚴格的監管以及徹底禁止某些活動的擬議規則 6。如果該立法通過，大型金融機構有關信用評等、人力資源流程甚至電子表格的法遵成本將增加。一位與會者表示：「該項法案主要針對所有影響客戶或員工的事項制定。」

金融機構正處於調整治理和監督模式的早期階段

大型銀行和保險公司的高層仍在評估可能需要對治理和監督做出哪些調整，以更可靠地部署這些更加強大的模型。AI技術發展迅速，尚未制定標準和最佳實踐。與會者初步提出一些方法，後續將進一步探討。

• 建立指導原則並組建多領域團隊來監督AI。邀請擁有不同背景和觀點且經驗豐富的領導者制定指南，審核潛在的AI應用程式。一位與會者說，金融機構建立團隊和設定原則就「如同設立最高法院和制訂憲法」。該團隊由「來自不同學科的成員組成，共同探討一項計畫創造的收益是否超過其所帶來的風險，是否值得執行」。但是，與任何小組一樣，諮詢小組和跨領域監督小組會受自身偏見影響。一位參與者表示：「Google解散了AI道德委員會，因為一些成員的觀點存在爭議，其觀點對某些人群存在明顯的偏見。」
  
  與會者提供一些可能有所裨益的指導原則。例如，一位與會者建議從「輔助而非替代」（即提供幫助，而非取代）的應用情境著手。另一位與會者表示，領導者應詢問「如果我們告訴客戶，我們正在使用AI技術和相關資訊作出與他們相關的決策，他們會有何反應？」
• 制定保證框架。一位與會者介紹了思考和因應AI相關風險的框架：「首先，我們應該考慮哪些風險與技術本身密切相關？例如，可能存在偏見等。其次，我們應該考慮和AI工具使用者相關的風險有哪些？有哪些應用情境？這樣，我們可以考慮所需的控制、問責機制和透明度問題。」
• 利用AI技術進行AI事實核查。金融機構需制定檢測 「AI 是否正常運行和是否發生故障」的流程。與會者認為，可以使用這些工具來管理幻覺和意外後果等問題。一位與會者指出：「人們往往無法理解 AI 的工作原理，這一問題可透過架構解決，將基本原理與人類可以理解的分類演算法相鏈接。」
  
  與會者建議使用 AI 技術監測、控制和降低其他 AI 模型中的風險。一位高階主管解釋：「我們監測所有系統提示，從而能夠追蹤和確定資訊來源。」另一位高階主管表示，生成式 AI 工具具有機率性質，金融機構可以「透過系統評估輸出資訊的可信度，並與其他分布式系統輸出資訊的可信度相比較」，或者「使用另一個（或者多個）模型來檢查模型輸出，如同一個人有同行檢查工作一樣 。」
• 投入培訓。為高層以及普通員工提供潛在應用情境及相關風險培訓至關重要。一位參與者表示：「首先從人員培訓入手。詢問他們在什麼背景下使用這個模型。有人認為它是搜尋引擎，有人認為它用於預測。你必須瞭解使用 AI技術的背景。」隨著 AI 技術應用越來越廣泛，一些參與者認為，應儘早介入培訓體系。一位與會者表示：「去年，英國每 10 名電腦科學學習者中，只有一名是女性。這就產生了偏見問題。如果我們不從早期就著手解決這個問題並提供系統性解決方案，我們就無法解決諸多此類問題。」另一位與會者表示：「我們如何確保全社會擁有未來發展所需的各類技能？這個問題非常重要。」
• 加強董事會對話。董事會和高階主管團隊仍在為如何更深入了解AI 以及可能需要實施哪些治理變革而絞盡腦汁。許多董事會正在積極討論 AI，一些董事會聘請了外部專家來提供指導和幫助。需要做的工作還有很多。一位董事承認：「由於 AI 議程在七八個月前才剛剛啓動，我覺得與我討論過的任何人都沒有找到答案。我所在董事會的每一名成員以及同我探討過的其他董事會的每一位董事都有同感，認為我們都沒有找到答案。我們尚不瞭解治理模式的定義、定位和實現方式。」

架構不斷進化。一位高階主管表示：「我們設立了一個工作小組，向執行委員會和董事會彙報，幫助他們儘快瞭解。」對於與會者，監督的第一步是提出正確的問題。我們不妨試探性地問：「如果我們告訴客戶，我們是這樣應用這一技術的，他們是否欣然接受？」