[AI 法律 9] AI 與消費者保護:演算法歧視、自動化決策、申訴機制

演算法歧視的成因可分為三種型態。型態一,訓練資料的歷史偏差(Historical Bias):訓練資料反映了社會過去的歧視結構,模型「學習」並重現此結構。例如,過去某類職位多由男性擔任的歷史資料,訓練出的招募 AI 可能對女性求職者評分較低——不是因為演算法「主觀歧視」,而是它「學會了過去的歧視模式」。

型態二,代理特徵歧視(Proxy Discrimination):即使訓練資料中明確排除受保護特徵(性別、種族、年齡、宗教等),模型仍可能透過高度相關的代理特徵產生實質歧視。例如,信用評估模型雖未使用「種族」資料,但「居住郵遞區號」可能高度對應種族分布,結果仍產生種族間的差別待遇。代理歧視最難偵測,因為演算法表面看似公平。

型態三,目標函數扭曲(Objective Function Bias):演算法的優化目標本身可能與社會公平目標相衝突。例如,以「最大化收益」為目標的廣告投放演算法,可能將高收入產品集中投放給經濟條件較好的地區,進一步擴大資訊與機會的不平等。

三種型態的偵測與處理,難度遞增。歷史偏差可透過資料平衡、加權處理;代理歧視需要專門的公平性測試與後端調整;目標函數扭曲則需根本性的設計選擇調整,涉及商業利益與社會責任的權衡。

我國消費者保護法(以下簡稱消保法)雖未直接針對 AI,但多項條文可適用於自動化決策情境。消保法第 4 條規定企業經營者應重視消費者健康與安全、提供充分正確資訊、實施必要保護措施。AI 自動化決策若隱匿關鍵資訊、未實施合理保護,可能違反此條。消保法第 11 條規定定型化契約應明顯公平,且對消費者顯失公平者無效——AI 服務的使用條款若含過度免責條款、不合理單方變更權,可能依此條主張無效。

消保法第 22 條規定企業經營者對於商品或服務所為廣告應確保其真實——AI 服務若標榜的能力與實際表現有顯著落差,可能構成不實廣告。消保法第 23 條規定刊登或報導廣告之媒體經營者明知或可得而知廣告內容與事實不符者,就消費者因信賴該廣告所受之損害,與企業經營者負連帶責任——對 AI 廣告的審查標準有提高趨勢。

具體適用情境舉例:金融科技 AI 信用評分——若評分結果隱匿關鍵因素(如代理特徵歧視),違反消保法第 4 條的資訊提供義務;電商 AI 動態定價——對相同商品依消費者特徵自動調整價格,可能涉及不公平交易;健康/美容 AI 應用——標榜特定效果但實際無充分驗證,可能構成不實廣告。

對企業而言,合規重點包含:第一,自動化決策的透明度(消費者應知道有 AI 介入);第二,定型化契約的公平性(避免過度免責);第三,廣告與服務承諾的真實性(避免誇大 AI 能力);第四,消費者異議的有效處理機制(提供申訴管道與人工複核)。

歐盟 GDPR 第 22 條與「資料保護指令」確立了消費者對自動化決策的特殊權利:當決策對消費者產生重大法律或實質影響時(如信用、就業、保險),消費者有權要求人工介入、表達意見、要求解釋、挑戰決策結果。我國個資法雖無同樣明確的條文,但學說與函釋逐漸採取類似立場,且《人工智慧基本法》(114/12/23 通過、115/1/14 施行)中已含相關原則。

「解釋請求權」的具體內涵有不同層次。層次一,告知義務:消費者有權知道「決策有 AI 介入」,以及「AI 在決策中扮演的角色」(僅輔助、主要決策、自動執行)。層次二,簡要說明:消費者有權獲得「決策的主要影響因素」說明(如「您的申請因 X 因素被拒」),即使無法完整解釋演算法內部運作。層次三,人工複核權:對重大決策,消費者有權要求人工介入複核,並就複核結果再次提出意見。

對企業的「演算法透明度義務」則是相對應的責任。實務上需平衡:消費者的知情權 vs. 企業的營業秘密保護、技術上的可解釋性限制(深度學習的黑盒子問題)、過度透明可能助長系統濫用。建議的合理平衡是:對決策結果提供「足以讓消費者理解並挑戰」的說明,但不必揭露完整模型細節。

有效的申訴機制是消費者保護的最後一道防線。完整設計應包含五個元素:

元素一,清楚的申訴管道:消費者應能輕易找到申訴入口(網站明顯位置、App 內、客服管道、書面),並有對應的時限與流程說明。元素二,合理的申訴期限與處理時限:消費者應有合理期間提出申訴(建議 30 天以上),企業應於合理時限內回覆(建議 14 天以內初步回覆、30 天內最終答覆)。

元素三,人工複核機制:申訴的核心保障是「能由獨立的人工複核 AI 決策」。複核人員應與初次決策獨立、有合理權限變更決策結果、有合理時間做出複核判斷。元素四,補救措施:申訴成立時的補救應具體有力——更正決策、補償損害、公開道歉(若必要)、改善流程。元素五,內部追蹤與改善:申訴案件應彙整分析,作為改善 AI 系統的依據。重複出現的問題類型,應追根究底找出系統性原因。

對小型企業,設計申訴機制不必複雜——關鍵是「清楚、可達、有人回覆、有實質處理」。對涉及大量自動化決策的中大型企業,建議建立專責的「AI 申訴處理小組」,涵蓋業務、法遵、技術三方面背景人員。

幾個特殊行業的 AI 消費者保護議題尤為敏感。金融業:AI 信用評分、自動化貸款審核、保險精算,涉及消費者重大經濟利益。金管會已陸續發布金融業 AI 應用指引,要求風險管理、消費者保護、公平性檢測。就業招募:AI 履歷篩選、面試評估,涉及就業機會公平。雖我國尚無就業歧視法明確涵蓋 AI,但勞動主管機關已開始關注。

醫療健康:AI 輔助診斷、健康風險評估,涉及健康甚至生命。衛福部對此已有醫療器材分級管理。教育評量:AI 對學生的評分、推薦、入學決策,涉及教育機會。教育部對 AI 在教育的應用持謹慎立場。司法行政:AI 在司法系統的應用(如再犯預測、量刑建議),涉及人權與正義。我國司法院對此持極為保守的態度。

對涉及這些行業的企業,合規要求遠高於一般 AI 應用,本所建議委請熟悉該領域與 AI 法律的律師團隊,進行專案合規評估。

企業的 AI 治理水準,最直接的展現就是「消費者實際受到怎樣的對待」。技術指標再漂亮、政策文件再完善,若消費者面對演算法決策時無能為力、得不到合理解釋、申訴無門,所謂治理就是形式上的儀式。

本所建議企業:把消費者保護當作 AI 治理的試金石——若 AI 系統能讓消費者「清楚知道有 AI 介入、能合理理解決策依據、有有效的申訴管道、能獲得真實補救」,治理水準就達到了基本要求。每一次妥善處理的消費者投訴,都是企業在 AI 信任資本上的存款。

常見問題