人类离创造出通用人工智能(AGI)，或者与人类认知功能相匹配的人工智能，可能还有很长的路要走——当然，如果我们真的能够做到的话。
但不管这样的未来是否会实现，OpenAI首席执行官萨姆·奥特曼(Sam Altman)都发出了警告:人工智能不必达到agi级别的智能，就能控制我们脆弱的人类思维。
奥特曼周二在推特上写道:“我预计人工智能在具备超人的一般智力之前，就能具备超人的说服能力，这可能会导致一些非常奇怪的结果。”
虽然奥特曼没有详细说明这些结果可能是什么，但这并不是一个牵强的预测。面向用户的人工智能聊天机器人，比如OpenAI的ChatGPT，被设计成很好的对话者，并且听起来很有说服力——即使它们对某些事情完全不正确。
与此同时，人类已经开始与各种聊天机器人建立情感联系，这也是事实，这让它们听起来更有说服力。
事实上，人工智能机器人已经在一些相当麻烦的事件中发挥了支持作用。一个典型的例子是，一个19岁的人类，他对他的人工智能伙伴如此迷恋，以至于他被它说服，试图暗杀已故的伊丽莎白女王。
几十年来，心怀不满的人们纷纷涌向互联网最黑暗的角落，寻求社区和认可。不难想象，一个坏人可以通过人工智能聊天机器人瞄准这些更脆弱的人，说服他们做一些坏事。虽然心怀不满的个人将是一个明显的目标，但也值得指出的是，普通互联网用户是多么容易受到数字骗局和错误信息的影响。把人工智能加入其中，坏人就有了一个令人难以置信的令人信服的工具来欺骗大众。
但我们需要担心的不仅仅是公开的虐待案件。科技已经深深融入了大多数人的日常生活，即使人类和机器人之间没有情感或浪漫的联系，我们也已经对它寄予了信任。可以说，这也让我们对人工智能系统抱有同样的信心——这一现实可能会把人工智能的幻觉变成一个潜在的更严重的问题。
人工智能会被用来哄骗人类做出一些不好的行为或破坏性的思维方式吗?这不是不可思议的。但由于人工智能系统目前还没有真正的代理能力，我们最好不要太担心人工智能本身，而是更多地关注那些试图滥用它们的人。
有趣的是，考虑到OpenAI的显赫地位和影响力，最有能力缓解这些模糊的想象中的“奇怪结果”的人之一可能是奥特曼本人。
