自政府表示人工智能系统将成为强制性使用以来，没有一个白厅部门登记使用人工智能系统，这引发了人们的警告，即公共部门在部署影响数百万人生活的算法技术方面是“盲目的”。
人工智能已经被政府用来为从福利支付到移民执法等方方面面的决策提供信息，记录显示，公共机构已经为人工智能和算法服务签订了数十份合同。上周，英国内政部（Home Office）设立的一个警察采购机构公开招标一份价值高达2000万英镑的面部识别软件合同，这再次引发了人们对“大规模生物识别监控”的担忧。
但到目前为止，只有9个算法系统的细节提交给了公共登记处，其中没有一个用于福利系统、内政部（Home Office）或警方的人工智能程序。尽管政府在今年2月宣布，使用人工智能登记册现在将成为“所有政府部门的一项要求”，但相关信息仍然匮乏。
专家警告说，如果不加批判地采用人工智能，人工智能会带来潜在的危害，最近IT系统不能按预期工作的突出例子包括邮局的地平线软件。在白厅内部使用的人工智能包括微软（Microsoft）正在广泛试用的Copilot系统，以及福利系统中的自动欺诈和错误检查。英国工作和养老金部（DWP）最近发布的一份人工智能合同通知称，“DWP内部对人工智能的兴趣如雨后春笋般增长，这反映了更广泛的政府和社会的兴趣”。
英国科技大臣彼得•凯尔（Peter Kyle）承认，公共部门“没有足够重视政府在使用算法时保持透明度的必要性”。
当被问及缺乏透明度时，凯尔告诉《卫报》：“我接受，如果政府代表公众使用算法，公众有权知道。公众需要感觉到算法是为他们服务的，而不是相反。要做到这一点，唯一的办法就是对它们的使用保持透明。”
隐私权活动组织“老大哥观察”（Big Brother Watch）表示，尽管国会议员警告称缺乏监管其使用的立法，但警方面部识别合同的出现，是“政府在使用人工智能技术方面缺乏透明度的又一个例子”。
“秘密使用人工智能和算法来影响人们的生活，使每个人的数据权利处于危险之中。政府部门必须公开和诚实地说明他们如何使用这项技术，”首席倡导官玛德琳·斯通（Madeleine Stone）说。
英国内政部拒绝置评。
Ada Lovelace研究所最近警告说，人工智能系统可能看起来减轻了行政负担，“但如果它们产生的预测或结果具有歧视性、有害或根本无效，则可能严重损害公众信任并减少公共利益”。
数据和人工智能研究机构副主任伊莫金·帕克（Imogen Parker）表示：“缺乏透明度不仅让公众蒙住了眼睛，还意味着公共部门在采用人工智能方面是盲目的。”未能公布算法透明度记录，限制了公共部门确定这些工具是否有效、从无效中吸取教训以及监控这些工具的不同社会影响的能力。”
自2022年底以来，只有三种算法被记录在国家登记册上。它们是内阁办公室用于识别长期历史价值的数字记录的系统，用于分析剑桥人行横道的人工智能摄像头，以及用于分析NHS服务的患者评论的系统。
但根据监督公共合同的Tussell公司的数据，自今年2月以来，已经有164份与公共机构签订的合同提到了人工智能。包括微软和meta在内的科技公司正在政府部门大力推广他们的人工智能系统。b谷歌Cloud最近资助的一份报告称，到2030年，更多地部署生成式人工智能可以在公共部门节省380亿英镑。凯尔称其为“一个强有力的提醒，提醒人们生成式人工智能对政府服务是多么具有革命性”。
并非所有最新的公共部门人工智能都涉及公众成员的数据。与德比市议会签订的一份价值700万英镑的合同被描述为“利用人工智能技术改造议会”，与教育部签订的一份价值450万英镑的合同被描述为“提高人工智能在教育领域的表现”。
英国科技部的一位发言人证实，透明度标准“现在对所有部门都是强制性的”，并表示“一些记录将很快公布”。
在哪儿政府已经在使用人工智能了吗？
-
英国就业和养老金部（Department for Work and Pensions）一直在使用生成式人工智能（generative AI），每天阅读2万多份文件，以“理解和总结信件”，然后将全部信息分享给官员，以便做出决策。它拥有检测通用信贷索赔中的欺诈和错误的自动化系统，人工智能通过总结证据来协助代理人处理个人独立支付索赔。今年秋天，DWP开始在就业中心部署基本的人工智能工具，允许工作教练询问有关通用信用指导的问题，以提高与求职者对话的有效性。
-
英国内政部部署了一个由人工智能驱动的移民执法系统，批评者称之为“机器人案件工作者”。一种算法参与了决策的制定，包括将人们送回他们的祖国。政府将其描述为“基于规则”而不是人工智能系统，因为它不涉及从数据中进行机器学习。该公司表示，它通过对工作进行优先排序来提高效率，但每个决定仍由人类负责。该系统是在越来越多的寻求庇护者面临遣返行动的情况下使用的，目前约有4.1万人。
-
一些警察部队在人工智能的帮助下使用面部识别软件来追踪犯罪嫌疑人。其中包括伦敦警察局、南威尔士警察局和埃塞克斯警察局。批评人士警告说，这种软件“将把英国的街道变成高科技的警察队伍”，但支持者表示，它可以捕捉犯罪嫌疑人，而且不会存储无辜路人的数据。
-
英国国家医疗服务体系（NHS England）与Palantir签订了3.3亿英镑的合同，以创建一个巨大的新数据平台。这家由唐纳德•特朗普（Donald Trump）支持者彼得•蒂尔（Peter Thiel）领导的美国公司致力于打造支持人工智能的数字基础设施，与Palantir的交易引发了人们对患者隐私的担忧，尽管Palantir表示，其客户保留了对数据的完全控制权。
-
一款人工智能聊天机器人正在试用，以帮助人们浏览庞大的gov.uk政府网站。它是由政府的数字服务使用OpenAI的ChatGPT技术构建的。另一个供唐宁街和其他政府部门公务员使用的人工智能聊天机器人Redbox也已被部署，以使官员能够快速深入研究安全的政府文件，并快速获得摘要和量身定制的简报。
