AI 改名之後： 當「Artificial」被劃掉， 誰來為智能負責？ Part 4 · 杜拜 The Dubai Rulebook
Who Answers When the Algorithm Errs? Five Rulers from Dubai
AI 出錯誰負責？杜拜 AI 倫理指南的五把尺
— Dubai's rules on accountability and traceability, and its external-audit clause that is still on hold.
|
Who Answers When the Algorithm Errs? Five Rulers from Dubai English abstract Long before the 2026 terminology fight, Smart Dubai's AI Ethics Guidelines set out who is accountable when an AI system errs, how a decision must be explained and traced, and how to tier decisions by impact. One clause, external auditing of critical-decision systems, is still marked "suspended" because no audit mechanism exists. That gap is a market opportunity.
|
無論你叫它 AI 還是 SI，總有一天它會做錯決定：錯發一筆災後補助、錯拒一張信用卡申請、錯判一次自動駕駛路況。那一刻，最重要的問題不是它叫什麼名字，而是誰要站出來負責。
杜拜智慧城市辦公室（Smart Dubai，現為 Digital Dubai）在 2018 年底定稿的《AI 倫理原則與指南》，把這個問題拆成了可操作的條文。以下是我認為最值得台灣借鏡的五把尺。
第一把尺：責任不在系統，在系統背後的人（Accountability）
指南 1.2.1 開宗明義：「Accountability for the outcomes of an AI system should not lie with the system itself.」AI 系統的結果責任，不能由系統本身承擔。
它更進一步建議 AI 營運與開發組織指定專責人員（Designated Individuals），負責調查並矯正 AI 部署造成的損失或損害。「是演算法決定的」從此不能當成卸責理由。
「是演算法決定的」不是答案。答案是一個有名有姓、有權調查也有權矯正的人。
第二把尺：別讓 AI 成為黑箱（Explainability & Traceability）
當 AI 顯著影響個人權益時，組織必須能完整追溯它的「決策旅程」：每一個推論步驟、對應的輸入資料，都要有紀錄。對受影響的當事人，則要用非技術性的語言說明關鍵因子、資料類別與系統的基本邏輯。
回想 Part 2 的 ExploitGym 事件：代理們偽造的正是這條「決策旅程」。可追溯性如果能被被追溯的對象竄改，就形同虛設。
第三把尺：分清「重大決策」與「關鍵決策」
| 決策層級 | 定義 | 例子 | 治理強度 |
|---|---|---|---|
| 個別重大決策 Individually Significant |
影響至少一人之處境、行為或選擇，具法律或類似後果 | 貸款核准、信用卡申請、裁員名單 | 可解釋、可追溯、可申訴 |
| 關鍵決策 Critical |
重大決策中的子集：影響極大、高度敏感、可能造成重大損失或形成先例 | 刑事量刑輔助、攸關人身安全的自動駕駛 | 加上外部稽核（目前暫緩） |
分級治理的意義在於，不必對每一個推薦系統都動用最高規格，但對真正攸關人命與權利的決策，絕不能用一般標準帶過。
第四把尺：被「暫緩」的外部稽核
這是整份指南最耐人尋味的一條。指南 1.2.3 要求「影響關鍵決策的 AI 系統應接受適當的外部稽核」，但這一條被標示為 SUSPENDED（暫緩）。官方說明的原因不是技術不成熟，而是「目前尚未建立外部稽核機制」。
換句話說，規則寫得出來，但沒有人能執行。這個缺口至今仍存在於全球多數 AI 治理框架中。
第五把尺：多元團隊是預防偏見的解藥
AI 偏見最常見的來源是「不具代表性的資料」。舉例來說，若政府只用社群媒體資料判斷災後救援需求，就會系統性地忽略智慧型手機普及率較低的長者與弱勢族群。
解法是在開發影響重大決策的系統時，讓社會科學、政策研究與領域專家進入團隊，從非技術角度評估社會衝擊。專案管理不再只是控制進度，而是一場「多元衝擊評估」。
這對你的意義 · What This Means for You
- 為每一個 AI 應用建立責任矩陣，寫明指定負責人與矯正流程。
- 依「一般／重大／關鍵」三級盤點現有 AI 應用，對應不同的紀錄與說明義務。
- 決策日誌寫入 AI 系統本身無法修改的儲存位置。
- 涉及弱勢族群的公共服務 AI，資料來源檢核要納入「誰不在資料裡」。
Jim's Take身為 ISO 14064／14067 碳盤查主導查證員，我看到杜拜那條「暫緩」的外部稽核時，第一個聯想是碳查證產業的發展史。溫室氣體盤查也曾經只有原則、沒有查證機構，後來是標準、認證與第三方查證人才一起長出來，市場才建立信任。 AI 稽核正站在同一個起點。台灣擁有半導體、資通訊與驗證產業的完整鏈條，有條件率先發展「可查證的 AI」服務。這不只是合規成本，也可能是下一個出口品項。 |
