
在被发现悄悄从其使用政策页面上删除“军事和战争”禁令后,OpenAI正在与五角大楼合作。
据报道,该公司证实,它正在与美国国防部合作开发开源网络安全软件,并正在研究如何利用其技术防止退伍军人自杀。
OpenAI全球事务副总裁安娜·马坎朱(Anna Makanju)本周在瑞士达沃斯举行的世界经济论坛上发表演讲时透露,该公司在与军方合作的意愿上发生了逆转。
她说:“因为我们以前基本上是全面禁止军事使用,许多人认为这会禁止许多这样的用例,人们认为这些用例与我们希望在世界上看到的非常一致。”
然而,OpenAI仍在禁止其技术被用于开发武器或伤害人类。
上周,OpenAI悄然从其“使用政策”中删除了对“军事和战争”的禁令。根据修改后的网页,这些变化是为了使政策“更清晰”和“更可读”。
OpenAI发言人尼科·菲利克斯(Niko Felix)表示:“任何使用我们的技术,包括军方,‘开发或使用武器,伤害他人或破坏财产,或从事违反任何服务或系统安全的未经授权的活动’,都是不允许的。”
考虑到OpenAI最大的投资者微软已经与美国军方签订了几份备受瞩目的合同,这是一个特别值得注意的变化。
OpenAI还透露,它正在与美国国防高级研究局合作。
OpenAI发言人表示:“我们已经在与DARPA合作,推动开发新的网络安全工具,以保护关键基础设施和工业所依赖的开源软件。”
他们补充说:“不清楚在我们以前的政策中,这些有益的用例是否会被允许用于‘军事’。”“因此,我们更新政策的目标是提供清晰度和进行这些讨论的能力。”
批评这一变化的人士警告说,OpenAI修订后的政策在技术上仍可能允许在战区使用其人工智能技术。
“考虑到人工智能系统在加沙针对平民的使用,这是一个值得注意的时刻,决定从OpenAI的允许使用政策中删除‘军事和战争’这个词,”人工智能研究所(AI Now Institute)董事总经理莎拉·迈尔斯·韦斯特(Sarah Myers West)说。“政策中的措辞仍然含糊不清,并引发了OpenAI打算如何执行的问题。”











