11. 責任不能外包給演算法：代理式 AI 時代的問責
月底結帳時，財務部發現一筆三百多萬的重複付款。
這筆款項是由應付帳款的 AI 代理核准的。它自動比對發票、採購單與驗收單，三者一致就標為綠燈、進入付款。問題出在供應商重開了一張發票，號碼不同，其他資料都一樣。
檢討會上，每個人的說法都很合理。會計專員說：「系統標的是綠燈。」課長說：「每天上百筆，我只看紅燈。」IT 說：「模型是照設定運作的。」廠商說：「比對規則是貴公司自己設定的。」
會議最後的結論是：「要優化模型。」
沒有人做錯什麼，但錢已經付出去了。
「是系統建議的」，正在成為組織裡一句新的口頭禪。它聽起來是在陳述事實，實際上常常在做另一件事：把責任從人身上移開。當 AI 從「提供建議」走向「自己行動」，這個問題會越來越常見。
這篇文章要談的是：當 AI 會自己做決定，責任應該在哪裡？為什麼組織總是傾向讓它落空？以及，如何在事情發生之前就把它安排好。
專家的分歧與共識
MIT Sloan Management Review 與 BCG 每年都會邀請一組全球學界、業界與公民社會的專家，組成「負責任 AI 專家小組」，就一個陳述表態並說明理由。2025 年秋季，小組討論的陳述是：
「要讓代理式 AI 為它的決策與行動負責，需要新的管理方法。」
結果，69% 同意或非常同意，25% 不同意或非常不同意。
同意的一方，理由不難理解。傳統的管理制度假設行動者是人：人會說明自己的理由、會被考核、會為錯誤受到約束。代理式 AI 自主行動，速度與規模都超過人能逐筆審核的範圍，舊的管理方法確實不夠用。
但更值得注意的是不同意的少數。他們並不認為不需要管理，而是對陳述的前提有疑慮：「讓 AI 負責」這個說法本身就有問題。他們警告一種「AI 例外論」：把 AI 視為特殊的存在、需要特殊的問責方式，反而會把責任從人與組織身上移開。Mozilla 的 Mark Surman 說得很直接：該負責的是部署 AI 的人，「不是 AI 本身」。
把兩方放在一起看，分歧其實沒有想像中大。兩邊都同意：責任在人，不在系統。 差別只在於，為了讓人能真正負起責任，管理方法要改得多大。
小組提出了五項建議：
- 做好生命週期管理： 從設計、部署、監控到退役，每個階段都有人負責。
- 把人的責任寫進治理： 不是「人類最終負責」一句口號，而是具體到人與流程。
- 劃定 AI 可以主導的範圍： 哪些決定可以自動化，哪些不行。
- 為「AI 製造 AI」做準備： 當代理會自己產生或調整其他代理，責任鏈會變得更長。
- 把默認規則寫清楚： 沒有人明確決定的地方，系統會用預設值替組織做決定。
需要說明的是，這是專家意見，不是實證研究。它的價值在於把問題說清楚，而不是證明哪一種做法有效。而少數派的警告，正好說中了開場那場檢討會：結論是「優化模型」，就是把 AI 當成了該負責的對象。
AI 例外論與道德緩衝區
責任一旦不被事先安排，它不會消失，而是會流向某個地方。兩位學者的研究，描述了它最常流向的兩個方向。
第一個方向：責任落空。 哲學家 Andreas Matthias 在 2004 年提出「責任缺口」的概念。傳統上，機器出錯，責任歸於設計者、製造者或操作者，因為他們可以預見並控制機器的行為。但會自己學習、自己行動的系統，其行為無法被任何人完全預見。系統越自主，「誰該負責」就越難回答，缺口也就越大。開場的「要優化模型」，就是這個缺口的樣子：每個人都有理由，最後沒有人負責。
第二個方向：責任落到最靠近的人身上。 人類學家 Madeleine Clare Elish 研究自動化系統的事故，提出「道德緩衝區」（moral crumple zone）的概念。汽車的緩衝區是為了在撞擊時吸收衝力、保護乘客；她發現，在人與自動化系統共同負責的情境中，最靠近事故的那個人，常常吸收了大部分的道德與法律責任，即使他對系統的控制非常有限。被保護的，是系統的完整性與設計它的人。
如果開場的檢討會走向另一個結論：「會計專員應該要發現」，就是這個方向。一個每天處理上百筆綠燈、被告知「綠燈不用看」的專員，成了整個設計的緩衝區。
這兩個方向看起來相反，其實是同一個問題的兩面：責任和權限對不上。 有權限設定規則的人不必負責，必須負責的人又沒有權限改變規則。
為什麼組織喜歡把錯推給系統
如果問題這麼清楚，為什麼組織還是一再重複？
組織心理動力的經典研究可以提供一個解釋。1960 年，塔維斯托克研究所的 Isabel Menzies Lyth 研究倫敦一家教學醫院的護理制度。她發現，很多看似「為了效率」的制度，例如把照顧工作切成片段、用檢查表取代判斷、把決定往上或往外推，實際上都有一個未被說出的功能：讓個人不必直接面對工作帶來的焦慮。 她稱之為「社會防衛系統」。代價是，這些制度也讓組織很難改變、很難學習。
從這個角度看，「是系統建議的」就是一種新的社會防衛。每一個錯誤，都會帶來自責、羞愧、被追究的焦慮。把錯誤歸給一個「系統」，個人不必承擔，主管不必做難堪的決定，組織也不必承認自己的流程設計有問題。每個人都鬆了一口氣。
但代價是組織不再學習。開場那個「優化模型」的結論，讓三個真正的問題都沒有被討論：為什麼重開發票的情況沒有被寫進規則？為什麼「綠燈不用看」成了默認做法？誰有權決定金額多大的付款可以完全自動化？
我在〈拆掉組織圖之後，邊界去了哪裡？〉中提到，權威邊界是代理式團隊最容易模糊的一條界線。問責的問題，就是這條界線模糊之後的結果。
怎麼做：三個問責工具
問責必須事先設計，而不是事後追究。以下三個工具，可以在代理上線之前就完成。
（一）決策權清單。 把代理會碰到的決定列出來，分成三類：
重點不是分類本身，而是「誰有權決定這個分類」。額度設多少、哪些情況要升級給人，這些都是管理決策，不應該讓廠商的預設值替組織決定。這也就是專家小組「把默認規則寫清楚」的意思。
（二）每個代理一位具名負責人，搭配 RACI。 每個上線的代理，都要有一位具名的負責人，而不是一個部門。哈佛醫學院與 MIT Sloan 團隊的臨床 AI 部署田野指南建議，由跨領域的治理委員會搭配 RACI 矩陣，釐清每一步誰執行、誰負最終責任、誰要被諷詢、誰要被告知。
這裡有一個關鍵的檢查：這位負責人，有沒有權限改變代理的規則？ 如果沒有，他就是下一個道德緩衝區。責任與權限必須放在同一個人身上。
（三）檢討會規則：不接受「是系統建議的」作為結論。 「系統建議的」可以是描述，但不能是結論。每次 AI 相關的事件檢討，都必須回答三個問題：
- 誰設定了讓它可以這樣做的規則？
- 誰應該知道卻不知道？為什麼？
- 我們的流程，哪裡讓人無法發現這個錯誤？
同時要維持「不指責」的原則。問責不等於懲罰，而是讓組織知道問題出在哪一個決定、哪一個交接。如果每次檢討都有人被處分，大家會更努力地把錯推給系統，社會防衛只會更堅固。
結語
代理式 AI 可以接手任務，但不能接手責任。
責任不會因為沒有人安排就消失，它只會在出事之後，流向「系統」這個沒有人的地方，或流向最基層、最沒有權限的人。事前把它放在對的位置，是管理者在 AI 時代無法外包的工作。
留給你的問題： 如果明天你們的 AI 系統犯了一個大錯，第一個被追問的會是誰？那個人有足夠的權限嗎？
延伸閱讀
參考文獻
- Renieris, E. M., Kiron, D., & Mills, S. (2025). Agentic AI at scale: Redefining management for a superhuman workforce. MIT Sloan Management Review.
- Gallifant, J., Kellogg, K. C., … Bitterman, D. S. (2025). A Field Guide to Deploying AI Agents in Clinical Practice. arXiv:2509.26153.（預印本）
- Elish, M. C. (2019). Moral crumple zones: Cautionary tales in human–robot interaction. Engaging Science, Technology, and Society, 5, 40–60.
- Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and Information Technology, 6(3), 175–183.
- Menzies, I. E. P. (1960). A case-study in the functioning of social systems as a defence against anxiety. Human Relations, 13(2), 95–121.
慧培國際相關服務： 經營團隊共識營（AI 權限界限）、組織發展與變革
Lead yourself first with authenticity and positivity that other people will choose to follow.Positive Leaders, Positive Organizations.
作者
Edward Cheng 鄭博文
慧培國際管理顧問公司台灣區人才發展總監 / 企業教練/策略引導師
台灣人，具多個行業的豐富人力資源管理經驗， 清大教育與心理諮商學系碩士，現職清大教育與心理諮商學系團體動力講師與慧培國際台灣區人才發展總監。
Edward 過去有將近18年的HR主管經驗，有2/3的時間是跟企業的CEO一起工作，能夠從企業經營的高度來規劃組織的人才發展。協助主管不只是知道還要能夠做到，從系統性的角度完整的規劃與提升主管的關鍵能力以帶來組織的成效。
Edward 擅長於 願景策略會議引導(Vision and Strategies Workshop) 、商業模式引導 (Business Model Workshop)、團隊教練 (Group Coaching)、高管教練(Coaching) 以及教練領導力（Coaching Leadership)。
Email：powen.coach@whitespace-leadership.com Ｍ：0958802653