AI 行動之前,權限必須清楚
為何 AI 是否準備好行動,取決於能否辨認哪個來源、規則和人物可授權具後果的步驟。
重點摘要
- 團隊往往在未能指出誰或甚麼可授權行動之前,已先問 AI 能否行動。
- 檢索可以找到多個看似合理的來源,卻不會自動判斷哪一個支配個案。
- 擴大自主性之前,先定義權限、衝突、升級和停止條件。
我們反覆看到,團隊在行動權限未清楚前,已先問 AI 可否採取行動。
它可否批准要求、修改紀錄、發出回覆,或代表機構承諾日期?
技術答案可能是可以。營運答案則取決於另一個問題:憑誰的權限?
系統可能檢索到政策、舊批准、項目計劃和近期電郵。四者都看似相關,地位卻未必相同。一份可能是現行規則,另一份已被取代,一份只屬建議,還有一份記錄只有指定人物才能批准的例外。
以一個綜合示例來說,AI 閱讀時間表、會議記錄和客戶通訊後,準備了一個修訂交付日期。它有足夠資料提出建議,卻未必有足夠權限作出承諾。承諾可能仍取決於項目負責人、合約通知程序或另一團隊的確認。
所以,更多脈絡不會自動產生許可。脈絡解釋情況,權限決定下一步可以做甚麼。
在讓系統行動前,團隊應能說明:紀錄衝突時哪個來源作準、哪些角色可批准各類行動、系統毋須批准可以做甚麼、哪些條件必須升級或停止、行動如何撤回或修正,以及決定與證據記錄在哪裏。
歐盟《人工智能法案》有關人工監督的條文強調,人員需要理解系統限制、避免過度依賴、推翻輸出和停止高風險系統的能力(EUR-Lex, Article 14)。
權限並非系統完成後才加上的最後開關,而是工作架構的一部分。
延伸閱讀:如何判斷 AI 是否準備好行動。
Sources
/ 開始
從一個業務成果開始,再逐步擴展。
先選定一個明確的檢視週期、工作流程或團隊,找出更完整的營運脈絡可立即提升前期準備和專業判斷質素的地方。