跳到主要內容

AI跨業合作 需評估集中度風險


聯合報/A7版/財經要聞
記者朱漢崙╱台北報導
2023年12月17日   人氣: 1500  

網路識讀

金管會即將公布的AI指引,其中最令金融業者矚目的在於「集中度風險」管理。該指引已明確要求金融業者在合作前「整個市場委託該機構的集中度風險,都要一併評估」。換言之,金融機構找合作對象要趁早,否則恐有「名額限制」。

 

所謂的風險集中度的衡量方式,雖然並未在指引中明訂,但銀行業者指出,顯然金管會擔心這種風險過度集中的情況;另外金管會也要求包括責任範疇、未達績效或發生問題時要如何索賠都要事先簽好書面契約,並訂定「退出或轉換」機制,中止委託之後,第三方業者所持有的包括客戶的人臉辨識之類的資料,都要移除。

 

金管會八月訂定的AI六大核心原則已提出讓AI使用兼顧永續概念,如今該指引將「永續發展」抽象概念化為八大明確方針,包括必須辨識使用AI後對環境產生的風險、優化硬體設施、共享資源和虛擬化、改進模型與演算法、預先處理資料、智慧控管能效、回收與再利用資源、降低消費者或員工的數位焦慮和數位落差。

 

例如金融機構可選擇能效較高的硬體設備減少能耗,如採用節能伺服器、低功耗處理器與高效能數據中心設備等。

 

此外,不論是使用生成式AI或一般AI,金管會特別要求「人機協作」,包括避免生成式AI產出內容對特定群體產生偏見或歧視,對客戶或金融消費者不公平。

 

例如,用在與民眾日常生活相關的業務舉凡辦房貸、信用卡、信用貸款業務,若AI資料有偏差,很可能導致明明財資力是一樣的人,卻因為居住在不同地區、不同教育程度,甚至性別不同,在AI建議的核貸額度上竟出現明顯差異,這就和資料偏差有關。一旦出現會讓消費者質疑的判讀結果時,就必須把AI的運算邏輯與決策過程,以簡單易懂的方式讓消費者知道原因何在,做到使用AI時不致造成群體間的不公平。

 

為了確保客戶權益及隱私,金管會已在指引裡要求,以生成式AI為例,在沒有適當的管控機制下,金融機構不可向AI提供未經客戶同意公開的資訊。所謂適當的環境是指採用封閉型地端部署的生成式AI模型;客戶如果不想使用AI須提供客戶可選擇的替代方案,例如直接由銀行人員服務。金管會還提到,除資安外,電力穩定也非常重要,不能讓AI系統面臨電力不穩、頻寬不足問題。

 

相關文章

短影音對青少年的影響

隨著科技的進步及網路的普及,各種影音平臺也如雨後春筍般地出現,短影音(short video)形式的影音內容,最近更是受到青少年的喜愛。短影音顧名思義即是影片的時間非常的短,通常只有15秒到5分鐘的時間,表達一個概念或故事。短影音的崛起,除了反映行動裝置與高速行動網路的普及外,也反映出現代人生活型態的改變,像是在零碎的時間內(等人、等車、等餐,等上課,甚至是等泡麵),隨手可拿取手機或其他行動裝置來瀏覽短小訊息或收看短則影音。由於這些裝置幾乎都隨時處於待機的狀態,因此使用者連「等開機」的時間都不需

認識生成式AI的原理與應用

人工智慧(artificial intelligence, AI)其實是許多技術的合稱,生成式(generative AI)是其中的一類,誤認生成式AI等同於AI,或是誤認為AI的技術僅限於生成式AI的範疇,都是不正確的。AI核心技術之一的類神經網路(neural network, NN)本質上是一種統計技術,藉由現代IC技術與平行計算技術的輔助,使用諸如GPU之類的多核心計算軟硬體,可以統計恆河沙等級的資料,並找出資料之間蛛絲馬跡般的關聯性,運用這個統計而得的AI模型,就可以做到「預測」和「生

相關影片


捏捏臉頰

氣噗噗大挑戰

有圖有真相?

Hi! 我的好朋友

返回網路識讀新聞列表

頁首