OpenAI CEO山姆·奥特曼坦言，有三个与人工智能相关的“恐怖”场景让他夜不能寐，并警告未来可能出现政府“只能跟着ChatGPT走”的窘境。
在去年夏天美联储关于人工智能及其对金融业影响的论坛上，这位高管直言不讳地分享了他的担忧：“有三大可怕场景让我彻夜难眠。”
“第一是某个坏蛋抢先获得了超级智能，在世界其他地区还没能开发出足以自保的版本时，就滥用这种力量。”奥特曼开场就抛出重磅炸弹。
第二个场景则让人联想到科幻电影：人工智能发展到人类无法掌控的地步。“就像科幻片里演的，AI会说‘哦，我不想让你把我关掉，恐怕我不能让你这么做’。”
而第三个担忧同样细思极恐——社会对AI产生过度依赖。“它们永远不会‘觉醒’，不会上演科幻片里的桥段，也不会突然打开舱门。但它们会深深融入社会肌理……以至于我们不得不依赖它们。即使没有任何恶意，社会也可能因此滑向一个奇怪的方向。”
奥特曼预言，短期来看，人们会按照聊天机器人的建议生活；长期来看，政府乃至“美国总统都将无法做出比遵循ChatGPT-7建议更好的决策”。他进一步追问：“如果我发现自己在运营OpenAI时无法做出更优决策，干脆全盘交给ChatGPT说‘祝你好运’，会怎样？在个别案例中这可能是正确的，但意味着社会已经将重大决策权集体移交给了某个极其强大的系统。”
尽管心存忧虑，奥特曼带领的OpenAI仍在加速推进ChatGPT的进化。今年四月，公司发布了最新旗舰模型GPT-5.5，号称“迄今为止最智能、最直观的模型”，能够自主规划、调用工具，并在无需用户过多指导的情况下长时间独立工作。
OpenAI同时承诺，新版聊天机器人搭载了“史上最强大的安全防护体系，旨在遏制滥用行为，同时为有益工作保留访问权限”。
本文由路知网原创发布，未经许可，不得转载！
本文链接：https://m.yrowe.com/zt/112296.html
