加州一项试图监管大型前沿人工智能模型的法案，在人工智能的未来问题上造成了戏剧性的僵局。多年来，人工智能一直被分为“加速”和“减速”。加速者希望人工智能快速进步——快速行动并打破常规——而减速者则希望人工智能为了人类的利益而放慢发展速度。当OpenAI董事会短暂罢免山姆·奥特曼(Sam Altman)后，这场斗争成为了全国关注的焦点，此后，许多人以人工智能安全的名义离开了这家初创公司。现在，加州的一项法案使这场斗争变得政治化。
建议阅读人们将会爱上调情的GPT-4 OmniOpenAI表示Sora将于2024年推出，裸体视频也不会消失AI女朋友并不都是坏的| AI解锁
分享字幕
从
英语
建议阅读人们将会爱上调情的GPT-4 OmniOpenAI表示Sora将于2024年推出，裸体视频也不会消失AI女朋友并不都是坏的| AI解锁
分享字幕
从
英语
分享这个视频facebooktwitteremailredditl
inkAI女友并不都是坏的| AI解锁
SB 1047是加利福尼亚州的一项法案，该法案将使大型人工智能模型提供商(如meta、OpenAI、Anthropic和Mistral)对其人工智能系统的潜在灾难性危险承担责任。这项由州参议员斯科特·维纳(Scott Wiener)起草的法案于今年5月在加州参议院获得通过，并为本周成为法律扫清了另一个主要障碍。
相关内容谷歌和微软只提供了区区1000万美元来保护世界免受人工智能的侵害
相关内容谷歌和微软只提供了区区1000万美元来保护世界免受人工智能的侵害
好吧，这可能成为美国第一个真正的人工智能法规，它正在加利福尼亚州发生，所有主要的人工智能公司都在那里。
维纳将该法案描述为“为最大、最强大的人工智能系统的开发者制定了清晰、可预测、常识性的安全标准”。但并不是每个人都这么认为。硅谷的许多人都在敲响警钟，担心这项法律将在人工智能时代开始之前扼杀它。
SB 1047要求人工智能模型提供商对任何“灾难性损害”负责，尽管目前还不清楚这些损害是什么。尽管如此，这还是很重要的，因为硅谷历来逃避了对其危害的大部分责任。该法案授权加州总检察长，如果这些公司的人工智能模型对加州人造成严重伤害，可以对它们采取法律行动。
SB 1047还包括一项“关闭”条款，该条款有效地要求人工智能公司在紧急情况下为人工智能模型创建一个终止开关。
该法案还在加州科技部设立了“前沿模型部门”。该组织将监管这些前沿人工智能模型提供商，并执行每个公司必须遵守的安全标准。如果企业不遵守该部门的规定，它们可能会被起诉并面临民事处罚。
除了维纳参议员，被称为“人工智能教父”的两位杰出的人工智能研究人员杰弗里·辛顿和约书亚·本吉奥也在该法案上签名。这两位在发出关于人工智能危险的警告呼吁方面非常突出。
更广泛地说，这项法案符合衰落观点，认为人工智能终结人类的可能性相对较高，应该受到这样的监管。这些人中的大多数是人工智能研究人员，并没有积极尝试将人工智能产品商品化，因为他们认为这可能会终结人类。
该法案由丹·亨德里克斯领导的人工智能安全中心发起。他的组织在2023年5月发表了一封公开信，称人工智能对人类灭绝的威胁应该像核战争或流行病一样被严肃对待。它的签名有山姆·奥特曼、比尔·盖茨、格莱姆斯和许多有影响力的科技人士。他们是一个有影响力的团体，也是推动这项法案的关键人物。
2023年3月，decels呼吁“暂停”所有人工智能开发，以实施安全基础设施。虽然这听起来很极端，但人工智能社区中有很多聪明人真的相信人工智能会终结人类。他们的想法是，如果人工智能有可能终结人类，我们可能应该严格监管它，以防万一。
如果你在X上，感觉硅谷的每个人都反对SB 1047。风险投资家、初创公司创始人、人工智能研究人员和开源人工智能社区的领导人都讨厌这项法案。我一般把这些人归类为加速者，或者至少，这是他们在这个问题上的落脚点。他们中的许多人从事人工智能业务，但也有一些是研究人员。
普遍的看法是，SB 1047可能会迫使像meta和Mistral这样的人工智能模型提供商缩减或完全停止他们的开源努力。该法案要求他们对使用其人工智能模型的不良行为者负责，而这些公司可能不会承担这一责任，因为很难对生成式人工智能进行限制，以及产品的开放性。
A16Z普通合伙人兼Mistral董事会董事Anjney Midha在接受Gizmodo采访时表示:“这将彻底扼杀、摧毁和减缓开源创业生态系统。”“这项法案类似于试图压制印刷机的进步，而不是关注它应该在哪里，也就是印刷机的使用。”
伯克利计算机科学教授、Databricks执行董事长伊安?斯托伊卡(Ion Stoica)在接受采访时表示:“开源是我们保持领先的最大希望，它为新兴模型提供了透明的安全测试，而不是让少数几家强大的公司秘密控制人工智能。”
Midha和Stoica并不是唯一认为人工智能监管是该行业存在的人。多年来，开源人工智能为硅谷最繁荣的初创企业提供了动力。SB 1047的反对者表示，该法案将有利于大型科技公司的封闭现有企业，而不是蓬勃发展的开放生态系统。
“我真的认为这是一种阻碍开源人工智能发展的方式，是减缓人工智能发展的更广泛战略的一部分，”AGI House的创始人杰里米?尼克松(Jeremy Nixon)表示。AGI House是硅谷开源人工智能黑客马拉松的中心。“该法案源于一个对暂停人工智能非常感兴趣的社区。”
这绝对是技术问题，这就产生了一些问题。SB 1047只适用于“大型”前沿模型，但多大才算大呢?该法案将其定义为在10^26 FLOPS上训练的人工智能模型，按照今天的标准，这是一个特定的、非常大的计算能力。问题是人工智能的发展速度非常快，与2024年的标准相比，2023年的最先进模型看起来很小。在沙地上插一面旗帜对这么快移动的田地可不是什么好办法。
目前还不清楚是否有可能完全阻止人工智能系统的不当行为。事实是，我们对法学硕士的工作原理知之甚少，而今天来自OpenAI、Anthropic和Google的领先人工智能模型一直都在被破解。这就是为什么一些研究人员说，监管机构应该关注不良行为者，而不是模式提供者。
纽约大学人工智能助理教授拉维德?施瓦茨?齐夫在接受采访时表示:“有了人工智能，你需要规范的是用例、行为，而不是模型本身。”“世界上最好的研究人员可以在人工智能模型上花费无限的时间，而人们仍然能够破解它。”
该法案的另一个技术部分与开源人工智能模型有关。如果一家初创公司采用meta的Llama 3(最受欢迎的开源AI模型之一)，并对其进行微调，使其成为完全不同的东西，那么meta是否仍然要对该AI模型负责?根据这项法案，似乎meta当然可以承担责任，但该法案的反对者认为这是不公平的，也不是正确的做法。
不清楚。人工智能社区的许多人将开源人工智能视为一种言论自由(这就是Midha将其称为印刷机的原因)。前提是AI模型的底层代码是一种表达形式，模型输出也是一种表达形式。历史上有几次法典属于第一修正案的管辖范围。
三位法学教授在Lawfare的一篇文章中指出，人工智能模型并不完全是言论自由。首先，他们表示，构成人工智能模型的权重不是由人类编写的，而是通过大量机器学习操作创建的。人类甚至几乎看不懂它们。
至于前沿人工智能模型的输出，这些系统与社交媒体算法略有不同，社交媒体算法在过去被认为属于第一修正案的范畴。人工智能模型并没有明确的观点，它们会说很多事情。出于这个原因，这些法学教授说SB 1047可能不会侵犯第一修正案。
该法案即将于8月进行投票，届时该法案将被送到州长加文·纽森的办公桌上。要实现这一目标，它还需要扫清一些关键障碍，即便如此，由于来自硅谷的压力，纽森也可能不会签署协议。一家大型科技行业组织刚刚给纽森发了一封信，让他不要签署sb1047法案。
然而，纽森可能想在人工智能方面为美国开创一个先例。如果sb1047生效，它可能会从根本上改变美国的人工智能格局。
