隨著AI科技的問世，許多學者專家認為此變革將帶動全球新產業革命，但由於AI需要大量個人資料或非個人資料的蒐集及運算，因此，這也成為各國政府目前法令監管的重要課題。歐盟《人工智慧法》已經於2024年3月立法，並有望從2025年開始實施，預計將成為全球人工智慧監管實際的新標準。台灣目前正積極草擬針對AI的法令草案，未來是否會將歐盟《人工智慧法》之精神帶入台灣的《人工智慧基本法》，仍有待觀察。
當前消費者零售產業，業者多已熟悉對於消費者過往個人消費記錄進行分析的方法，並透過分析結果精準預測消費者下一個購買行為或是精準投遞促銷商品予有相關需求的消費者。隨著AI科技運用，業者將可能陸續導入AI科技，大幅運用消費者過往消費記錄等個人資料以預測將來的購買行為，對此，未來台灣的AI法令是否會予以限制？
試想，當消費者走進實體門市消費，企業是否可以蒐集該名消費者虹膜、臉部特徵、表情及走路姿態進行AI分析，瞭解消費者進入店內想購買的商品或可能會引發消費者購買慾的產品，此時，企業可能已經蒐集並利用消費者生物特徵的個人資料。目前台灣現行的個人資料保護法並未將生物特徵列為特種個資，但如從歐盟《一般資料保護規則》的角度說明，消費者虹膜及臉部特徵則歸類為生物特徵，屬於特種個資，處理特種個資的法遵門檻較高，若企業將此類資料「立即」進行AI分析，並僅作為對該消費者進入門市後，營業人員對於該消費者精準商品推介及促銷的參考依據，但其分析過程或產出結果，並未將該消費者進行社會評分或限制該消費者基本權利，此種情形是否構成使用歐盟《人工智慧法》所認定的禁止使用的AI系統(Prohibited AI Practices)或高度風險的AI系統(High-Risk AI System)，進而應符合較高標準的規範監管要求？又依歐盟《人工智慧法》要求，該行為是否須事先告知消費者正在使用互動式AI系統之情形？台灣未來的AI法令是否將依循此一監管機制，將成為未來值得關注的趨勢。
又或者，若企業將消費者「過往」消費記錄進行分析，進而精準預測其下一個購買行為，或是精準投遞符合需求的商品予該消費者，除有蒐集及處理個資的合法性議題須確認者外，如將其運用於AI科技分析，但其分析過程或產出結果，並未將該消費者進行社會評分或限制該消費者基本權利，則可能不會落入前述所提及的禁止使用的AI系統或高度風險AI系統範疇，但仍需為管理或降低盡量減少可能導致不公平或不準確結果的偏見，或被迫說明其演算過程是否存有侵犯基本權利、影響或扭曲該消費者行為並造成傷害、不公平或不準確結果的偏見等而造成AI應用的法遵成本。對此，台灣未來的AI法令如何規範將大幅影響企業法遵成本，並成為未來觀察重點。
當「數位人類」成為我們的願景，將AI科技運用於消費者行為分析，已是AI科技蓬勃發展後，可能或現在已經在運用的一個面向。台灣未來的AI法令是否會依循歐盟《人工智慧法》採高度監管思維，或是包容創新思維，對於消費與零售業或其他產業也必將產生不同程度的影響。
(文/KPMG安侯建業消費與零售產業主持會計師陳宜君、KPMG安侯法律事務所合夥律師鍾典晏提供)