英國 Open Rights Group 發表一份針對英國國土安全部(Home Office)移民流程的報告,指部門在多個涉及申請人的流程中使用 AI 工具,而相關部署的公開程度有限。報告同時提出演算法問責與透明度方面的問題。
涉及哪些流程
報告記錄的 AI 使用範圍包括年齡估算、假婚姻(sham marriage)查核、庇護個案處理,以及手機內容檢視。報告提及 ACS、APS 等試點流程採用了 GPT-4 與 Microsoft Foundry 等模型。The Guardian 的報道以「AI 被隱藏地嵌入 Home Office 流程」描述這份報告的核心指控。
9% 不準確或不完整
報告指 ACS 試點的個案摘要中,有 9% 被評為不準確或不完整。這個數字來自報告本身,而不是獨立審計結果。
在移民決定語境下,摘要的準確度並非純粹文書問題:個案摘要會進入簽證、庇護與執法流程的判斷依據,任何錯誤都可能直接影響個別申請人的結果。
透明度與問責缺口
報告的核心批評並非單指「用了 AI」,而是公眾與申請人難以知道模型在流程中扮演多大比重:哪些步驟由模型完成、哪些由人處理,以及錯誤發生時由誰負責。
Home Office 的回應是,相關工具只作輔助,最終決定仍由受訓的個案工作人員作出。這是部門立場,報告則認為在欠缺透明度與審核紀錄的情況下,難以從外部核實這一分工。
監管層面的下一步
WIRED 報道指,監管機構可能考慮是否展開調查。這是「可能考慮」的階段,並非已經開立調查個案,兩者有本質分別。
對政策層面而言,報告提出的問題包括:應否公開 AI 在移民流程的使用範圍、是否需要事前與事後的演算法影響評估、以及申請人遇上有爭議的自動化決定時有甚麼申訴渠道。
對申請者與企業的意義
對移民申請者,關鍵是保留自身提交文件與個案往來紀錄,以備需要時引用。對企業與公共部門,日漸增多的個案自動化流程會帶來同類問題:摘要品質、透明度與問責安排若沒有事前設計,出了事往往難以追溯。
資料來源
- Open Rights Group 報告:Automated Discrimination — Unpacking the Digital Hostile Environment
- The Guardian:AI 隱藏地嵌入 Home Office 流程的報告
- WIRED:Home Office 或因使用 OpenAI 工具面臨調查
