对滥用人工智能的担忧，已促使政治领导人考虑以可能限制获取人工智能模型内部工作原理的方式对这一新兴技术进行监管。但包括普林斯顿大学在内的一些顶尖大学的研究人员警告称，此类限制可能弊大于利。
在10月10日发表在《科学》杂志网络版上的一篇文章中，包括普林斯顿大学计算机科学教授Arvind Narayanan和研究生Sayash Kapoor在内的一个研究小组得出结论，限制公众访问人工智能系统的底层结构可能会产生几个负面结果。
这些问题包括：限制工程师改进和调整模型的能力，从而扼杀创新；增加模型运行的保密性；权力集中在少数个人和公司手中，他们控制着技术的使用。
文章详细讨论了滥用人工智能系统在虚假信息、黑客攻击、生物恐怖主义和制造虚假图像等领域造成的威胁。研究人员评估了每种风险，并讨论了是否有更有效的方法来对抗它们，而不是限制对人工智能模型的访问。
例如，在讨论人工智能如何被滥用来为被称为鱼叉式网络钓鱼的电子邮件诈骗生成文本时，研究人员指出，加强防御比限制人工智能更有效。
他们写道：“鱼叉式网络钓鱼的关键瓶颈通常不是电子邮件的文本，而是下游的防护措施：现代操作系统、浏览器和电子邮件服务对此类恶意软件实施了多层保护。”
过去几年，人工智能的出现引发了对这项技术进行监管的呼吁，包括白宫和欧盟（European Union）采取的措施。争论的焦点是构成当今主要人工智能系统（如GPT-4和Llama 2）的计算机代码和数据的构建。这些系统被称为基础模型，可以用来编写报告、创建图形和执行其他任务。
这些模型之间的主要区别在于它们是如何发布的。有些模型，称为开放式模型，完全可供公众检查。还有一些被称为封闭模型的模型，只对它们的设计者开放。第三种类型是混合动力车，它对部分模型保密，并允许公众访问其他部分。
尽管这种区别似乎是技术性的，但它对监管可能至关重要。研究人员表示，对人工智能模型的大部分担忧都与模型可能被恶意破坏的方式有关。防止滥用的一个选择是，通过限制对人工智能模型的访问，使适应变得更加困难。
监管机构可以通过要求开发商封锁外部访问来做到这一点。他们还可以让开发人员对其他人滥用模型承担法律责任，这可能会产生同样的结果。
研究人员发现，现有证据并不表明开放模型比封闭模型或通过在线搜索等标准研究技术已经获得的信息更危险。
在今年早些时候在国际机器学习会议上发表的一篇文章中，研究人员得出结论，有证据表明，限制对模型的访问并不一定会限制滥用的风险。部分原因是，即使是封闭的模型也可能被颠覆，部分原因是，恶意行为者可能已经可以通过搜索引擎在互联网上获得信息。
研究人员写道：“正确地描述开放式基础模型的独特风险需要以边际风险为中心：相对于封闭式基础模型或搜索引擎等现有技术，开放式基础模型在多大程度上增加了风险。”
研究人员表示，这并不意味着对模型的访问不应该受到限制。在某些领域，封闭模型提供了最佳解决方案。但是，他们认为，监管机构需要仔细考虑限制获取是否是防止伤害的最佳方式。
他们写道：“对于许多威胁载体，现有的边际风险证据是有限的。”“这并不意味着开放式基金会模式在这些载体上没有风险，而是需要更严格的分析来证实政策干预。”
更多信息：Rishi Bommasani等人，《管理开放基础模型的考虑》，Science（2024）。DOI: 10.1126 /科学。adp1848期刊信息：Science由普林斯顿大学提供引文：对于AI，保密往往不能提高安全性（2024,10月14日）检索于2024年10月14日https://techxplore.com/news/2024-10-ai-secrecy.html本文档受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。内容仅供参考之用。
