委婉地说，有消息称国防部正在使用人工智能程序来评估提交给英国武装部队的当前审查报告，这一消息引起了人们的关注。《战略防御评估》于7月启动，随后的一个月发布了证据征集，邀请“现役军人、退伍军人、各党派议员、工业界和学术界”通过在线门户网站提交对一系列主张的回应。截止日期是9月30日，这些回应将“帮助”由艾伦港的前北约秘书长罗伯逊勋爵领导的审查小组。
据悉，今年夏天，英国政府与美国数据分析软件公司Palantir Technologies签订了一份合同，设计一个程序，分析收到的数千份文件，寻找关键词和主题。然后，它将编制一份数据摘要，以便在审查秘书处开始起草报告时通知秘书处。
对这一创新的不安主要体现在两个方面：内容和安全。每一项都很重要，而且每一项都至少需要政府的保证，或许还需要政府的缓解，尽管在目前阶段，这一过程似乎不太可能发生重大改变。该评估预计将在未来几个月内起草并最终确定，并于明年3月左右提交给国防部。预计政府将在今年夏天做出回应。
就内容而言，人们担心软件将为其分析工作带来的复杂程度。国防是一个充满废话和行话的政策领域，军事和民间专家都擅长用最难懂的语言掩盖简单的意思。软件是如何开发和测试的？对隐性偏见的筛选有多严格？它能在多大程度上审问人们真正说的话？一位业内人士担心，这将产生一个“美化的词云”，而另一些人则认为，一些贡献者试图通过强调他们认为会吸引人工智能过滤器注意的单词和短语来欺骗系统。
政府对这种批评的回应是，公务员将对人工智能过程进行监督，但这不足以让人放心。如果这项任务非常庞大，必须通过软件来完成，那么少数官员几乎无法提供重要的保障措施。另外，如果监督过程足够彻底和详细，可以防止任何主要问题，那么为什么还要自动化分析呢？
第二个值得关注的领域是安全。任何与国防部打过交道的人都知道，这是一个异乎寻常地痴迷于保密和信息保护的部门，其动机是可以理解的。它处理一些英国国家最敏感的问题，如三叉戟核威慑，并且一直是我们的对手渗透和间谍活动的主要目标。
因此，我们有理由问，人工智能过程的安全性如何，以及采取了哪些措施来保护它必须收集和整理的大量数据。人工智能系统相对脆弱，容易被黑客入侵，谷歌成立了自己的专门“红队”来预测、威慑和抵御黑客，这是很常见的事情。国防部是否有效地创造了一个巨大的特洛伊木马，让老练的人能够访问机密和机密信息的无价缓存？
重要的是，不要对新兴技术的使用感到绝望。即使是最顽固的愤世嫉俗者也会不情愿地承认，人工智能和大型语言模型的潜在好处是巨大的，可能会改变政策制定的速度和规模。英国国防部还没有要求微软回形针帮助撰写国防评估报告，国防部应该走在技术变革的前沿。
但是，如果潜在的好处是巨大的，那么潜在的陷阱也同样巨大。战略防务评估旨在“确定英国国防应对21世纪挑战、威胁和机遇所需的角色、能力和改革”。“这应该是一代人一次的评估和重新定位我们的国防和安全态势，展望未来几十年。”政府喜欢被视为制定理性和基于证据的政策，如果证据基础本身存在缺陷，这种政策将受到致命的破坏。
国防部在向有关各方保证其人工智能过程是安全可靠的方面还有很多工作要做。总有一天，可能很快，这种方法就会成为标准。但现在我们有必要问一下，这是否是进行这种实验的正确项目。简单地说，国防部承担不起出错的后果。
订阅每月只需1英镑
n
每周注册两篇文章
已经是订阅者了?登录
