回答這些AI 的風險與成熟度必考題,幫企業做好數位創新與治理

作為歷史上採用速度最快的商業技術,生成式 AI提供創新的方式來吸引用戶並產生具有更深入見解的內容,也為改善體驗、提供新價值流和轉變業務模式開闢了全新的途徑。

但是這項技術的快速發展與採用,也為負責治理和監督的領導者帶來了重大挑戰。領導者將需要強有力的治理、對潛在道德和監管問題的清晰理解,常見的四大面向風險檢查清單,可以幫助領導者快速掌握全局,更了解目前 AI 使用的成熟度:

一、營運風險

 

•       我現有的治理流程夠不夠靈活,確保能及時識別、管理、減輕生成式 AI 的風險?

•       我現有的風險偏好指標是否與生成式 AI 相關的風險一致?

•       我們將生成式 AI 推向市場的流程是不是太繁瑣,阻礙了我們把握機會的能力?

•       我們有沒有建立一個現有 AI 技術導入的清單?

•       對於生成式 AI 生命周期的每個階段,控制措施是否恰當?控制措施是否有不同的風險等級?

•       自動化的系統或工具是否可幫助於更完整地管理和控制風險,使得整個過程更加穩固和有效?

 

二、第三方風險

 

•       我該怎麼評估我們用來應用 AI 的第三方風險供應商的風險狀況?

•       如何確保你的供應商在滿足你的需求時,透明地告知是否有利用 AI 技術,而不是在背後悄悄地使用它,而你卻不知情?

•       我們的 AI 第三方供應商跟我們的 AI 原則是否相符?

•       我們怎麼監控並管理在供應商被認可之後持續出現的風險?

•       如果我的第三方不符合規定,我們有什麼應急計畫?

 

三、安全風險

 

•       我們怎麼保護我們的 AI 系統,避免可能的網路攻擊?

•       倘若在組織的 AI 生態系統內發現了安全問題,我們有沒有透過提供服務與協助來解決?

•       當遭受攻擊時,我們怎麼確保我們系統堅不可摧以及有無恢復力?

•       我們有沒有對目前 AI 安全狀態進行評估,包括 AI 的技術和相關漏洞?

 

四、數據風險

 

•       我們在使用 AI 系統時,如何保持數據的準確性和完整性?

•       有沒有持續的機制來監控 AI 裡的數據使用和處理,避免數據被濫用?

•       現行的數據分類方式,對於生成式 AI 的風險還適用嗎?

•       我們有哪些控制措施和方法來預防數據洩露和丟失?

•       我們的數據和隱私政策,符合現在的法律規定嗎?

原文資料來源:KPMG Governing AI Responsibility

Wayne Lai

數位長, 顧問服務部執行副總經理

KPMG in Taiwan

Email