甚麼是人在迴路 AI？
簡明解釋有意義的人工監督：證據、權限、審閱邊界，以及推翻或停止 AI 的能力。
重點摘要
- 人在迴路 AI 並不是一個批准按鈕，而是分配準備、檢查、升級和判斷的設計。
- 決定風險越高、不確定、不可逆或需要問責，人的參與便應越強。
- 有意義的監督需要證據、時間、權限，以及真正修正、推翻或停止系統的能力。
人在迴路 AI 是一種營運設計：軟件負責準備、檢查、起草或建議，而人員保留對具後果決定的實質判斷。
這個詞常被簡化為「由人批准輸出」，但這並不足夠。只有當人員能理解建議、檢查證據、辨認不確定性、改變結果和停止流程，才算真正身處迴路之中。
Prepare
Records + draft
Check
Sources + gaps
Human judgment
Decision rights
Approved action
Execute / record
Exception path
Risk / conflict / missing authority
Feedback path
Corrections improve the next pass
人員在迴路中做甚麼
AI 通常擅長準備：檢索紀錄、比較文件、找出缺漏、檢查一致性、起草回覆和監察期限。人員則負責判斷：證據是否足夠、例外是否重要，以及機構是否願意承擔行動。
正確邊界取決於後果。低風險、可逆的準備可以採用較輕審閱；涉及權利、金錢、安全、保密或對外承諾的決定，需要更強控制。
歐盟《人工智能法案》要求高風險系統的人工監督有效，並與風險、自主性和使用脈絡相稱，包括理解限制、避免自動化偏誤、推翻輸出和停止系統（EUR-Lex, Article 14）。
監督何時變成表演
如果審閱者只看到漂亮答案、沒有時間、不能檢查來源，或沒有權限拒絕，審閱步驟便很薄弱。人員只是在吸收責任，而非作出決定。
自動化亦可能削弱人員處理異常情況所需的練習。Bainbridge 的經典研究指出，把例行參與移除後，卻仍由人類負責例外，是自動化的其中一種矛盾（Bainbridge, 19833）。
一個實際測試
為每個審閱邊界問：審閱者可檢查甚麼證據？不確定和缺漏是否可見？可以修正、推翻或停止甚麼？哪些個案必須升級？是否有足夠時間和能力作真正審閱？最終決定和理由是否留下紀錄？
所以，人在迴路並不是所有 AI 風險的永久答案，而是對工作和問責的刻意分配。目標不是到處加入人員，而是把人的判斷放在能實質改變結果的位置。
延伸閱讀：為何 AI 需要來源依據。
Sources
/ 開始
從一個業務成果開始，再逐步擴展。
先選定一個明確的檢視週期、工作流程或團隊，找出更完整的營運脈絡可立即提升前期準備和專業判斷質素的地方。