自動化與委派的分別

在討論 AI 時，自動化和委派經常被視為同義詞。兩者其實並不相同。

自動化執行已知流程。委派則把追求結果的責任交給系統。

這個分別很重要，因為執行規則的系統，和自行選擇步驟的系統，需要不同的管治方式。如果逾期七日便自動發出發票提醒，需要檢視的是流程本身。如果 AI 系統的任務是減少逾期發票，它可能需要判斷聯絡誰、採用甚麼語氣、哪些例外情況重要、何時升級處理，以及下一步行動是否合適。這已不只是自動化，而是受委派的工作。

這個分別對專業工作尤其重要，因為情境和問責方式會同時影響軟件獲委派的責任程度，以及應採用哪一程度的人在迴路審閱。

自動化的工作定義

自動化，是利用軟件在有限人手介入下執行已界定的任務或工作流程。

IBM 把工作流程自動化描述為利用軟件完成原本需要人手處理的任務、活動和流程（IBM^{1IBM: What is workflow automation?}）。在實務上，流程穩定、觸發條件清晰、輸入已知，而且所需行動能夠預先指定時，自動化最能發揮作用。

例子包括：

• 在截止日期前三日發出提醒。
• 表格提交後建立工單。
• 把文件複製到相關案件資料夾。
• 開支超過門檻時送交審批。
• 收到已簽署文件後更新狀態。

自動化並非次等選擇，反而往往是最可靠的設計。如果一條規則已經足夠，與更自主的系統相比，規則通常更容易測試、解釋、監察和審計。

委派的工作定義

委派，是在界定權力邊界的同時，把某個結果的責任交給系統。

本文所指的 AI 委派，是要求系統透過收集情境、規劃、使用工具、支援決策或採取行動來追求目標，同時遵守明確的權限和審閱點。

Anthropic 對工作流程和代理系統的區分在這裏很有用：工作流程依照預先定義的程式路徑行事，代理系統則能夠動態安排自己的流程和工具使用方式（Anthropic）。

當系統不只是執行一個步驟，還要自行判斷需要哪些步驟時，委派便開始了。

委派的範圍可以很有限。例如「為每名合約金額超過 10,000 英鎊的供應商準備一份續約風險簡報」，即使每份簡報都由人審閱，仍然屬於委派。系統必須識別相關供應商、收集情境、比較合約條款、查看使用情況或負責人訊號，再整合成能夠支援判斷的內容。

這個區分有助避免誇大描述。按規則發出的提醒，不會因為採用 AI 撰寫文字便變成代理系統。受委派的系統，也不會因為目標聽起來合理便自然變得安全。

責任是逐步改變的

由協助走向委派，並不是由聊天機械人突然跳到自主代理，而是系統獲准自行選擇多少工作路徑的漸進變化。

Anthropic 對工作流程和代理的區分支持這個看法：工作流程沿預先定義的程式路徑運作，代理則動態安排更多自身流程和工具使用（Anthropic^{2Anthropic: Building Effective Agents}）。編排和委派可以並存，但兩者帶來不同營運責任。

這不是要求每個機構走向最高自主程度的成熟度階梯。合適模式，是能可靠承擔工作的最簡單模式。穩定任務可能只需要規則；依賴多項來源的審閱可能需要結構化編排；只有當系統必須收集情境、選擇步驟、處理例外並持續推進結果時，委派才變得相關。

混淆兩者為何會造成風險

風險不在於自動化和委派有所重疊，兩者確實經常重疊。真正的風險，是把受委派的系統當成單純自動化。

自動化風險通常在於規則是否正確。委派風險則更廣泛，包括系統是否理解目標、選取正確情境、使用合適工具、尊重權限、處理例外，並在應該停下時停止。

NIST 的 AI Risk Management Framework 把可信賴的 AI 視為一套涵蓋整個生命週期的規範，當中包括管治、勾畫、量度和管理風險（NIST AI RMF^{4NIST: Artificial Intelligence Risk Management Framework}）。當系統由固定執行走向承擔受委派的責任，這套規範便更為重要。

自動化帶來流程風險

主要問題包括：

• 觸發條件是否正確啟動？
• 輸入是否有效？
• 規則是否產生預期輸出？
• 是否有審計紀錄？
• 人能否推翻或停止流程？

委派帶來責任風險

需要考慮的問題更多：

• 系統獲委派追求甚麼結果？
• 它採用了哪些證據？
• 它獲准調用哪些工具？
• 哪些行動可以毋須批准而執行？
• 哪些不確定因素必須升級處理？
• 誰仍要為結果負責？

所以，「AI 自動化」可能成為一個含糊類別。把支援工單分類的系統，有別於解決支援個案的系統。草擬客戶更新的系統，有別於直接發送更新的系統。識別續約風險的系統，也有別於重新談判合約的系統。

實用結構

有效的 AI 營運模型，會把流程執行和責任分開。

觸發條件

甚麼會啟動工作？表格提交、截止日期、訊息、狀態轉變、審閱週期、用戶要求，還是受監察的情況？

情境

系統行動前必須知道甚麼？相關紀錄、承諾、證據、政策、過往決定、用戶權限和目前狀態。

權限

它可以做甚麼？讀取、總結、草擬、建議、更新、發送、審批、採購、升級處理，還是只能排入審閱隊列？審批邊界應清楚界定這些選項。

回饋

它如何知道工作是否有進展？工具傳回的結果、審閱者決定、任務狀態、測試、驗收準則、結果指標或用戶修正。

升級處理

它何時必須停下並交接給人處理？信心不足、證據欠缺、來源互相矛盾、敏感內容、權限邊界、成本門檻、法律風險，或異常例外。

自動化可能只需要其中幾項，委派則全部需要。

例子

提醒與跟進到底

自動化是在截止日期前發出提醒。委派則是要求系統確保團隊履行對客戶的承諾。受委派的系統必須知道承諾內容、負責人、來源依據、截止日期、關係脈絡，以及升級和交接路徑。

分派與解決

自動化把支援工單分派到正確隊列。委派則是要求系統在可行情況下解決問題。這需要政策脈絡、客戶紀錄、工具存取權限、信心檢查和人手升級處理。

草擬與可問責溝通

自動化把範本文字插入文件。委派則是要求 AI 根據案件紀錄準備客戶更新。系統可以草擬內容、標示來源和指出缺漏，但是否發送更新，仍可由人決定。

報告與推動營運

自動化刷新儀表板。委派則是要求系統識別本星期哪些帳戶需要跟進。系統必須根據紀錄、承諾、風險和時機作出推理。

委派並不是甚麼

委派不是無限制的自主權，不是容許系統在整個機構任意行事，也不是逃避問責的方法。

良好的委派設有邊界，清楚界定目的、範圍、權限、來源要求、審閱點和補救路徑。它會說明由哪名人類負責人承擔結果，以及系統可以執行哪些部分的工作。

所以，很多團隊應先由自動化和結構清晰的工作流程開始，再採用更具代理能力的系統。Anthropic 的指引主張先採用能夠有效完成工作的最低複雜度方案，只在代理式功能帶來的成效足以抵償成本和延誤時，才增加這方面的複雜度（Anthropic^{2Anthropic: Building Effective Agents}）。

自動化何時已經足夠

如果工作重複、穩定、歧義低，而且已清楚界定至足以採用確定性行為，自動化便已足夠。如果必須以確定性行為盡量減少失誤，自動化也是較理想的選擇。

如果工作需要收集情境、編排優先次序、綜合資料、處理例外或作多步跟進，委派便能發揮作用。系統仍可能受到嚴格限制，也可能仍須接受審閱。重點在於它負責推動結果，而不只是觸發一條規則。

區分兩者的理據

自動化和委派回答不同的設計問題。

自動化所問的是：應執行哪個已知流程？

委派所問的是：系統應追求甚麼結果、遵守哪些邊界、採用甚麼證據、擁有甚麼權限，以及由誰承擔問責？

混淆兩者會造成風險，因為這會把責任藏在流程用語之中。系統越能自行選擇路徑，便越需要情境、權限、回饋、檢查點和管治。目的不是避免委派，而是準確說明委派，從而以負責任的方式設計系統。

四個層次是一條連續線

最有用的設計選擇通常不是「人手」與「自主」二選一。工作可以放在一條連續線上：

1. 輔助：系統準備材料，由人員選擇每個具後果的步驟。 2. 自動化：符合已定條件時，系統執行指定行動。 3. 編排：系統協調多個已知步驟、工具和交接，同時保留明確控制點。 4. 委派：系統在既定邊界內選擇路徑，以追求結果。

同一工作流程可以包含四個層次。AI 可以協助起草客戶更新、自動檢查完整性、編排多個角色的審閱，並仍把最後對外承諾交給人員。把整個流程一概稱為「代理式」，會隱藏內部不同責任。

委派需要例外負責人

正常路徑表現良好並不足夠。被委派的工作需要有人負責系統不能解決的個案。該人需要已收集的證據、已嘗試的行動、升級原因，以及系統正在等待甚麼的清楚說明。

沒有例外負責人，升級便等於放棄。系統停止了，卻沒有人接下下一步責任。

回饋亦必須經過設計。只有當修正改變權威紀錄、規則、示例或審閱方式，它才形成機構學習；否則同一例外會再次出現。

可逆性改變可委派的責任

行動可觀察、可撤回時，委派可以較快擴大。分類建議可以改，草稿可以棄置，內部任務通常可以重新分配。

對外訊息、合約承諾、付款、刪除或披露則不同。即使原本行動只需數秒，復原成本仍可能很高。這些步驟需要更強證據、更窄權限和明確補救計劃。

所以實際準備測試不只是系統通常能否得到正確結果，而是機構能否發現錯誤路徑、及時中止、重組經過並修補後果。AI 是否準備好行動是整套安排的屬性，而不只是模型智能。

資料來源

1. IBM: What is workflow automation?
2. Anthropic: Building Effective Agents
3. IBM: What are AI agents?
4. NIST: Artificial Intelligence Risk Management Framework