[AI 法律 9] AI 與消費者保護:演算法歧視、自動化決策、申訴機制

演算法歧視，是指演算法的決定對特定群體造成不公平的差別待遇。成因可以分成三種，越後面越難發現、也越難修正。

一、歷史資料的偏差。訓練資料反映了過去的歧視，模型學會後照樣重現。例如某類職位過去多由男性擔任，用這些資料訓練的招募 AI，可能給女性求職者較低分數。

二、代理特徵歧視。即使資料裡刪掉性別、種族、年齡等受保護特徵，模型仍可能透過高度相關的其他資料產生同樣效果。例如信用模型沒用種族，但居住地的郵遞區號可能與族群分布高度重疊。這一型表面看起來公平，最難偵測。

三、目標設定的偏差。演算法追求的目標本身就與公平衝突。例如以「收益最大化」為目標的廣告投放，可能把好機會集中推給經濟條件較好的地區。

處理方式也依序變難：歷史偏差可以靠資料平衡與加權；代理歧視需要專門的公平性測試；目標偏差則要回頭調整系統設計，牽涉商業利益與社會責任的取捨。

消費者保護法（以下簡稱消保法）沒有專門處理 AI 的條文，但現有四個條文已經可以用在自動化決策上。

另依消保法第 23 條，媒體經營者明知或可得而知廣告內容與事實不符，要與企業經營者對消費者負連帶賠償責任。

企業的合規重點有四項：讓消費者知道有 AI 介入；定型化契約不要過度免責；廣告不要誇大 AI 能力；提供申訴管道與人工複核。

我國法律目前沒有明文賦予消費者「要求解釋 AI 決策」的權利，但企業主動提供說明，是降低爭議最有效的做法。

歐盟的做法可以參考。GDPR 第 22 條規定，完全由自動化處理作成、對當事人產生法律效果或類似重大影響的決定（例如信用、就業、保險），當事人原則上有權不受其拘束；企業在例外情形下採用時，至少要讓當事人能要求人工介入、表達意見並對決定提出異議。GDPR 第 13 條至第 15 條另要求企業說明自動化決策所涉邏輯的有意義資訊。

我國個資法沒有對應的條文。115 年 1 月 14 日公布施行的人工智慧基本法，第 4 條把「透明與可解釋」「公平與不歧視」列為政府推動 AI 應遵循的原則，方向相同，但這是原則性規定，並未直接創設消費者的請求權。

企業可以把說明分成三個層次：第一，告知決策有 AI 介入，以及 AI 扮演的角色是輔助、主要決策還是自動執行；第二，說明影響決定的主要因素，例如「您的申請因某項因素未通過」；第三，重大決定可以申請人工複核。

透明不等於公開全部模型。企業還要顧及營業秘密、技術上的可解釋程度，以及過度透明可能被人鑽漏洞。合理的標準是：說明要足以讓消費者理解並提出異議。

申訴機制是消費者保護的最後一道防線，完整的設計要有五個元素。

小型企業不必設計得很複雜，重點是清楚、找得到、有人回覆、有實質處理。大量使用自動化決策的中大型企業，可以成立由業務、法遵、技術人員組成的專責小組。

金融、就業、醫療、教育、司法這幾個領域，AI 決定直接影響財產、工作、健康與權利，法規要求也比一般應用高。

金融：AI 信用評分、自動貸款審核、保險定價。金管會已發布「金融業運用人工智慧（AI）指引」，涵蓋治理、公平性、隱私保護、透明與可解釋等原則。發生爭議時，依金融消費者保護法第 13 條，消費者應先向金融業者申訴，業者應在 30 日內處理；不接受結果或逾期未處理，可在 60 日內向爭議處理機構申請評議。

就業招募：AI 履歷篩選與面試評估。就業服務法第 5 條禁止雇主以性別、年齡、種族等因素歧視求職人，用 AI 篩選也一樣適用。

醫療健康：AI 輔助診斷軟體若屬醫療器材，製造或輸入前須依醫療器材管理法申請查驗登記或登錄。

教育與司法：AI 用於學生評分、入學決策，或再犯預測、量刑建議，涉及教育機會與人權，導入前應特別審慎。

涉及這些領域的企業，建議請熟悉該產業與 AI 法律的律師做專案合規評估。

企業的 AI 治理做得好不好，看消費者實際受到怎樣的對待就知道。政策文件再完整，消費者面對演算法若得不到解釋、申訴無門，治理就只是形式。

可以用四個問題自我檢查：消費者知不知道有 AI 介入？能不能理解決定的主要依據？有沒有有效的申訴管道？成立時能不能得到實際補救？四題都答得出來，才算達到基本要求。

常見問題