HKAIWeb 原創封面:移民申請者與個案職員隔住視窗接觸,蒙眼機械決策者處理個案卷宗英國 Home Office 多個移民流程被指使用 AI,但自動決定過程欠缺透明度。

英國 Open Rights Group 發表一份針對英國國土安全部(Home Office)移民流程的報告,指部門在多個涉及申請人的流程中使用 AI 工具,而相關部署的公開程度有限。報告同時提出演算法問責與透明度方面的問題。

涉及哪些流程

報告記錄的 AI 使用範圍包括年齡估算、假婚姻(sham marriage)查核、庇護個案處理,以及手機內容檢視。報告提及 ACS、APS 等試點流程採用了 GPT-4 與 Microsoft Foundry 等模型。The Guardian 的報道以「AI 被隱藏地嵌入 Home Office 流程」描述這份報告的核心指控。

9% 不準確或不完整

報告指 ACS 試點的個案摘要中,有 9% 被評為不準確或不完整。這個數字來自報告本身,而不是獨立審計結果。

在移民決定語境下,摘要的準確度並非純粹文書問題:個案摘要會進入簽證、庇護與執法流程的判斷依據,任何錯誤都可能直接影響個別申請人的結果。

透明度與問責缺口

報告的核心批評並非單指「用了 AI」,而是公眾與申請人難以知道模型在流程中扮演多大比重:哪些步驟由模型完成、哪些由人處理,以及錯誤發生時由誰負責。

Home Office 的回應是,相關工具只作輔助,最終決定仍由受訓的個案工作人員作出。這是部門立場,報告則認為在欠缺透明度與審核紀錄的情況下,難以從外部核實這一分工。

監管層面的下一步

WIRED 報道指,監管機構可能考慮是否展開調查。這是「可能考慮」的階段,並非已經開立調查個案,兩者有本質分別。

對政策層面而言,報告提出的問題包括:應否公開 AI 在移民流程的使用範圍、是否需要事前與事後的演算法影響評估、以及申請人遇上有爭議的自動化決定時有甚麼申訴渠道。

對申請者與企業的意義

對移民申請者,關鍵是保留自身提交文件與個案往來紀錄,以備需要時引用。對企業與公共部門,日漸增多的個案自動化流程會帶來同類問題:摘要品質、透明度與問責安排若沒有事前設計,出了事往往難以追溯。

資料來源

作者: hkaiweb

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *

Social Media Auto Publish Powered By : XYZScripts.com