据英国《卫报》报道，英国政府用于检测福利欺诈的人工智能系统在年龄、残疾、婚姻状况和国籍等方面存在偏见。
一项对机器学习程序的内部评估发现，该程序在推荐可能的欺诈调查对象时，错误地从某些群体中选择了比其他群体更多的人。
工作和养老金部（DWP）根据《信息自由法》（Freedom of Information Act）公布了这一承认。这种“统计上显著的结果差异”出现在今年2月对通用信贷预收自动系统进行的“公平性分析”中。
今年夏天，DWP声称人工智能系统“没有立即引起歧视、不公平待遇或对客户产生有害影响的担忧”，随后就出现了这种偏见。
这一保证的部分原因是，一个人是否获得福利金的最终决定仍然是由人做出的，官员们认为，继续使用该系统是“合理和相称的”，该系统试图帮助减少每年约80亿英镑的欺诈和错误损失。
但披露的信息显示，目前还没有对以种族、性别、性取向和宗教、怀孕、生育和性别重置状态为中心的潜在偏见进行公平分析。
活动人士指责政府采取“先伤害，后修复”的政策，并呼吁部长们更加公开哪些群体可能被算法错误地怀疑，试图欺骗系统。
“很明显，在绝大多数情况下，DWP没有评估他们的自动化程序是否有可能不公平地针对边缘化群体，”公法项目（Public Law Project）的高级研究员卡罗琳?塞尔曼（Caroline Selman）表示。该项目首先获得了这份分析报告。
“DWP必须结束这种‘先伤害，后修复’的方法，并在无法正确理解它们所代表的伤害风险时停止推出工具。”
承认自动化系统在评估欺诈风险方面存在差异，也可能会加强对政府迅速扩大使用人工智能系统的审查，并引发提高透明度的呼吁。
根据一项独立统计，英国公共当局使用的自动化工具至少有55种，可能影响到数百万人的决策，尽管政府自己的登记册只包括9种。
上个月，《卫报》透露，自今年早些时候政府表示将强制使用人工智能系统以来，没有一个白厅部门注册使用人工智能系统。
记录显示，公共机构已经授予了数十份人工智能和算法服务合同。上个月，英国内政部（Home Office）设立的一个警察采购机构公开招标一份价值高达2000万英镑的面部识别软件合同，这再次引发了人们对“大规模生物识别监控”的担忧。
英国科技大臣彼得·凯尔（Peter Kyle）此前曾对《卫报》表示，公共部门“没有足够重视政府使用算法的方式透明化的必要性”。
近年来，包括内政部（Home Office）和DWP在内的政府部门一直不愿披露更多有关它们使用人工智能的信息，理由是担心这样做可能会让不法分子操纵系统。
目前尚不清楚哪个年龄组更有可能被算法错误地定位为欺诈检查的目标，因为DWP对公平性分析的这一部分进行了编辑。
它也没有揭示出与非残疾人相比，残疾人是否更容易被算法错误地挑出来进行调查，也没有揭示出算法对待不同国籍的方式之间的差异。官员们表示，这是为了防止骗子钻系统的空子。
DWP的一位发言人说：“我们的人工智能工具不会取代人类的判断，社会工作者总是会查看所有可用的信息来做出决定。”我们正在采取大胆而果断的行动来打击福利欺诈——我们的欺诈和错误法案将使调查更加高效和有效，以更快地识别利用福利制度的罪犯。”
