R3 - 越用 AI，越不敢完全信它？
一家電子零組件公司導入採購代理已經快一年。它會比對報價、檢查交期、自動產生採購單，採購主管只需要在系統上按下核准。前十個月，一切順利，大家都說：「它比新人可靠多了。」
直到有一天，代理把一個料號的單位看錯，下了十倍的數量。供應商出貨前打電話來確認，事情才被攔下來。沒有造成損失，但從那天起，整個採購課的工作方式變了：每一張採購單，不論金額大小，都有人重新逐筆核對。原本省下的時間全部回去了，還多了一份不安——「它還有哪裡會出錯，我們不知道。」
採購主管在會議上說：「我寧可慢一點，也不要再發生一次。」IT 則覺得委屈：「十個月才錯一次，人工也會錯啊。」
（以上為示意情境。）
這個場景裡，沒有人做錯什麼。但它說明了一件事：對 AI 的信任，很少是穩定地慢慢增加的。它常常是先被高估，然後在一次事件後被大幅收回。問題不只在於系統有多可靠，也在於人與組織怎麼理解它的可靠。
數據說了什麼：信任在下降，但不是均勻地下降
Capgemini 研究院〈Rise of agentic AI〉（2025 年 7 月） 在 2025 年 4 月調查了 14 個國家、年營收超過 10 億美元企業的 1,500 位處長級以上主管。幾個發現值得一起看：
- 對「完全自主的 AI 代理」的信任，一年內從 43% 降到 27%。
- 只有 40% 的企業表示信任 AI 代理自主管理任務與流程。
- 但信任和經驗有關：已進入導入階段的企業中，47% 的信任程度高於平均；還在探索階段的企業只有 37%。
- 將近四分之三的主管認為，人的監督所帶來的效益大於成本；九成認為讓人參與 AI 驅動的工作流程是正面或不增加成本的。
乍看之下，這是矛盾的：整體信任在下降，用得越深的企業信任卻越高。一個可能的解釋是：信任的下降，發生在「完全自主」這個想像上；信任的上升，發生在「有人參與的實際使用」上。 用過的人，比較知道它能做什麼、不能做什麼。
PwC〈2025 Trust & Safety Outlook〉（2025 年 7 月） 調查了 300 多位資深主管，問他們願意把哪些工作交給 AI 代理。願意的比例依任務明顯不同：資料分析 38%、績效改善 35%、與同事的日常協作 31%，而自主的員工互動只有 22%、財務交易只有 20%。換句話說，主管們不是「信或不信 AI」，而是依任務的風險，給出不同程度的信任。
SHL（2025 年 11 月） 則從另一個方向提供了數據。這份對美國 1,000 多位上班族的調查發現，只有 27% 完全信任雇主會負責任地使用 AI；58% 希望由人而不是演算法來評估工作表現、做職涯決定；59% 認為 AI 讓偏見更嚴重。
這裡要特別小心：兩個 27% 量的是不同的東西。 Capgemini 的 27% 是企業主管對「完全自主代理」的信任；SHL 的 27% 是員工對「雇主會負責任地使用 AI」的信任。前者是對技術的信任，後者是對組織的信任。兩者剛好數字相同，但不能混為一談。
研究限制也要說清楚：三份都是自填問卷（證據等級 B），Capgemini 與 PwC 都是顧問公司，本身也提供 AI 導入服務；SHL 的樣本只在美國。它們能告訴我們方向，不能告訴我們因果。
目標不是「最多的信任」，而是「校準過的信任」
人因工程的研究，早在生成式 AI 出現之前，就在處理同一個問題：人要怎麼信任自動化系統？
Parasuraman 與 Riley（1997）把人與自動化的關係分成幾種失調。其中兩種最常見：誤用（misuse），是過度依賴系統，連它不擅長的事也交給它，出了錯也沒發現；不用（disuse），是不信任系統，把明明做得好的事也收回來自己做。前者的代價是錯誤，後者的代價是浪費。
Lee 與 See（2004）在這個基礎上提出了「信任校準」（trust calibration）的概念：好的信任，不是越多越好，而是與系統的實際能力相符。系統在某些任務上可靠，就在那些任務上信任它；在某些情境下會出錯，就在那些情境下保持警覺。他們也指出，信任不只是理性的計算，也帶著情緒；人對系統的感受，常常比系統的實際表現變化得更快。
用這個框架回頭看開場的採購課：出錯之前，大家的信任高於系統的實際能力（過度信任，可能導致誤用）；出錯之後，信任掉到低於系統的實際能力（信任不足，導致不用）。兩次都沒有校準。
演算法反感與演算法偏好
行為科學的研究讓這個圖像更複雜。Dietvorst、Simmons 與 Massey（2015）發現，人看到演算法犯錯之後，比看到人犯同樣的錯，更快放棄演算法，即使演算法整體上比人準確。他們稱之為「演算法反感」（algorithm aversion）。後續研究（Dietvorst 等，2018）也發現，如果讓人可以稍微調整演算法的結果，人就比較願意使用它。
但 Logg、Minson 與 Moore（2019）的實驗得出看似相反的結果：在許多預測任務中，一般人反而比較採信演算法的建議，而不是人的建議，他們稱之為「演算法偏好」（algorithm appreciation）。有趣的是，在他們的研究中，專業人士反而比較不採信演算法。
兩組研究合起來看，比較合理的解讀是：人對演算法的態度並不固定，而是受到「有沒有看到它出錯」「自己是不是專家」「能不能介入」等條件的影響。這對主管的意義是：信任是可以被設計的，不只是被動地等待它發生。
心理動力的解讀：從理想化到貶抑
以下是作者的觀點，而非上述研究的發現。
從心理動力的角度看，開場那種「十個月的讚美，一次錯誤就全部收回」的反應，很像客體關係理論所說的「分裂」（splitting）：一個對象不是全好，就是全壞，很難同時承認它「大部分可靠、在某些地方會出錯」。對新科技的熱情，常常帶著一種理想化——希望有一個不會累、不會錯、不需要被管的幫手；一旦它犯錯，理想化就翻轉成貶抑。
這種擺盪也有它的功能。過度信任，讓人可以把判斷的焦慮交出去；全面不信任，則讓人可以重新感覺到控制。兩者都在處理同一份焦慮：「如果出錯，責任在誰？」在一個沒有說清楚責任歸屬的組織裡，「每一筆都自己重新核對」可能不是對 AI 的評估，而是一種自我保護（這和〈責任不能外包給演算法〉談的是同一件事）。
所以，信任下降不一定是壞消息。它可能是校準的開始：大家終於從「它什麼都會」的想像，回到「它在哪裡可靠、在哪裡不可靠」的具體問題。主管的工作，是不讓這個擺盪停在另一個極端。
員工在判斷的，不只是 AI，還有公司
主管談信任時，常常只問一個問題：「這個系統可不可靠？」但對員工來說，還有第二個問題：「公司會不會好好用它？」
SHL 的數據正是在回答第二個問題。當 58% 的人希望職涯決定由人來做，他們未必是認為演算法算不準，而是擔心：如果算錯了，誰會聽我解釋？公司用 AI 是為了把工作做好，還是為了裁員、監控、壓低成本？
組織信任的經典模型（Mayer、Davis 與 Schoorman，1995）把「值得信任」拆成三個部分：能力（有沒有本事做好）、善意（有沒有把我的利益放在心上）、正直（說的和做的是否一致）。用這個模型來看，技術的可靠只回答了「能力」這一項；員工更在意的，可能是公司在「善意」與「正直」上的表現。
這也說明了為什麼光是提升系統的準確率，不一定能提升員工的接受度。如果員工不確定 AI 產生的資料會被怎麼用、出錯時自己會不會被犧牲、改變工作的決定是怎麼做的，那麼他們對 AI 的保留，其實是對組織的保留。
對主管而言，這意味著兩層信任要一起管：第一層，是人對系統的信任要校準；第二層，是員工對組織的信任要維護。第二層的建立，靠的不是宣傳，而是公司在第一次出錯、第一次有人質疑時，怎麼回應。（見〈員工聽你怎麼說 AI，更看公司怎麼做〉）
怎麼做：把信任從感覺變成設計
一、依任務做一張「信任地圖」。 不要問「我們信不信 AI」，而是把團隊交給 AI 的工作列出來，用兩個問題分類：這項任務出錯的代價多高？出錯了多快能被發現？代價低、容易發現的，可以放手讓它自主執行；代價高、不易發現的，要保留人的核准。開場的採購課，如果有這張地圖，可能會決定「金額或數量超過歷史平均一定倍數的單由人核對」，而不是每一筆都重新核對。PwC 的數據也顯示，主管們本來就是這樣思考的，只是很少把它寫成明確的規則。
二、讓系統的能力與限制可以被看見。 校準需要資訊。請導入團隊不只說明系統「能做什麼」，也說明「在哪些情況下容易錯」；定期公開錯誤率與錯誤類型，而不是只在出事時才討論。當錯誤是可預期的，一次錯誤就不會摧毀整個信任。同時，給使用者一個簡單的「介入」空間，例如可以調整、退回、標註「這筆我不確定」，演算法反感的研究顯示，這會讓人更願意使用系統。
三、分階段建立信任。 新的代理上線時，可以先設一段「靜默監控期」：系統給建議，人照常做決定，再比對兩者的差異。等到累積了足夠的證據，再逐步放寬它的自主範圍。放寬的標準事先說好，出錯時的回收標準也事先說好——例如「發生一次重大錯誤，回到上一個階段，而不是回到全部人工」。這樣，錯誤會變成調整的依據，而不是情緒的引爆點。
給人資與 OD 的提醒： 信任問題常常被交給 IT 處理，但它的另一半屬於組織。人資可以做兩件事：一是在員工意見調查中，分開問「你信不信 AI」與「你信不信公司會負責任地使用 AI」；二是在系統第一次出錯時，協助團隊做一次不問責、只學習的事後檢討，讓情緒有地方放，而不是直接變成制度上的全面收緊。
結語
對自主 AI 的信任從 43% 降到 27%，讀起來像是壞消息。但如果導入越深的企業信任越高，而絕大多數主管也同意人的監督值得，那麼這個下降可能是一種清醒：大家不再把 AI 想像成不會錯的幫手，而是開始問「它在哪裡可靠」。
好的信任，不是信得多，而是信得對。主管的任務，不是讓團隊更相信 AI，而是讓團隊的信任，跟得上系統的真實表現；同時讓員工相信，公司會好好使用它。
留給你的問題： 在你的團隊裡，哪一項 AI 工作被信任得太多，哪一項又太少？
延伸閱讀
參考文獻
- Capgemini Research Institute (2025). Rise of agentic AI: How trust is the key to human-AI collaboration. https://www.capgemini.com/insights/research-library/ai-agents/
- PwC (2025). 2025 Trust & Safety Outlook. 相關報導：Techstrong.ai, https://techstrong.ai/features/ai-agents-arent-entirely-trusted-with-high-stake-use-cases-pwc-survey/
- SHL (2025, November 17). New research from SHL reveals a major AI trust gap in the workforce. https://www.shl.com/about/news-and-events/press-releases/new-research-from-shl-reveals-a-major-ai-trust-gap-in-the-workforce/
- Lee, J. D., & See, K. A. (2004). Trust in automation: Designing for appropriate reliance. Human Factors, 46(1), 50–80.
- Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253.
- Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126.
- Dietvorst, B. J., Simmons, J. P., & Massey, C. (2018). Overcoming algorithm aversion: People will use imperfect algorithms if they can (even slightly) modify them. Management Science, 64(3), 1155–1170.
- Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Processes, 151, 90–103.
- Mayer, R. C., Davis, J. H., & Schoorman, F. D. (1995). An integrative model of organizational trust. Academy of Management Review, 20(3), 709–734.
慧培國際相關服務： AI 導入核心小組陪跑、組織動力評估。
Lead yourself first with authenticity and positivity that other people will choose to follow.Positive Leaders, Positive Organizations.
作者
Edward Cheng 鄭博文
慧培國際管理顧問公司台灣區人才發展總監 / 企業教練/策略引導師
台灣人，具多個行業的豐富人力資源管理經驗， 清大教育與心理諮商學系碩士，現職清大教育與心理諮商學系團體動力講師與慧培國際台灣區人才發展總監。
Edward 過去有將近18年的HR主管經驗，有2/3的時間是跟企業的CEO一起工作，能夠從企業經營的高度來規劃組織的人才發展。協助主管不只是知道還要能夠做到，從系統性的角度完整的規劃與提升主管的關鍵能力以帶來組織的成效。
Edward 擅長於 願景策略會議引導(Vision and Strategies Workshop) 、商業模式引導 (Business Model Workshop)、團隊教練 (Group Coaching)、高管教練(Coaching) 以及教練領導力（Coaching Leadership)。
Email：powen.coach@whitespace-leadership.com Ｍ：0958802653