近日歐洲理事會通過世界上第一部監管人工智慧的重要法律- AI Act(人工智慧法)，並將於歐盟官方公報上公佈20天後生效。KPMG安侯企業管理股份有限公司董事總經理謝昀澤表示，去年生成式AI應用的大爆發，被喻為AI的「iPhone高光時刻」，而現在AI Act的通過，可以是AI的「信任標竿時刻」，將帶動全球包含台灣在內的AI治理法規，全面加速立法。
謝昀澤說明，面對歐盟AI法案的正式實施，被法規定義為高風險的AI系統，將受到最嚴格的義務和要求，常見包含醫療設備、運輸安全、能源管理、金融科技等領域的AI應用。台灣廠商若在歐盟領域內開發或使用AI系統，要確保其產品符合AI Act要求，並進行適當的風險管理和資料治理，必須具備其符合記錄保存、透明度、人類監督等關鍵要求的明確證據。
台灣企業除了必須密切關注AI Act的合規性外，KPMG安侯企業管理股份有限公司科技法律專家趙慶宏提醒，歐盟AI Act也與歐盟的《網路韌性法》(The European Cyber Resilience Act，簡稱CRA)草案、《一般個人資料保護規則》(General Data Protection Regulation，簡稱GDPR)、CE標誌規範等規範要求有相互適用關係。歐盟的科技法律架構，是一張「科技應用的道德、安全與信任大網」，相關企業如以個別法條合規傳統方法處理，可能掛一漏萬、或拼湊疊床架屋的內部規範，將形成法遵災難。
趙慶宏進一步分析，AI Act還將對ChatGPT等熱門生成式AI及大型語言模型，在歐盟的布局可能帶來兩大衝擊。首先，OpenAI等AI巨頭，將需投入大量資源進行合規性審查，確保數據使用、透明度和人類監督機制符合歐盟AI風險管理要求；此舉可能會對新興AI公司和中小企業造成更大壓力，因為他們可能無法承擔高額的合規成本和技術要求。這將有利於像OpenAI這樣資源充足的大型企業在市場中拉開更大優勢，進一步鞏固其市場地位。其次，AI使用者將獲得更多透明度和保障，知悉與AI互動的細節及風險，但同時也可能面臨更嚴格的使用限制，影響便捷性和使用體驗。
趟慶宏也提醒AI科技使用者，積極提升自我「AI風險素養」，了解AI如何收集、使用和存儲個人資料，避免在對話中透露敏感個人資料，以確保在享受AI技術便利的同時，保障自己的個資隱私。
趙慶宏
KPMG安侯企業管理股份有限公司經理
E：njhao@kpmg.com.tw
