【编者按】当科技巨擘敲响警钟，我们是否真正意识到潘多拉魔盒已开启？谷歌前CEO埃里克·施密特以二十年科技掌舵者的视角，揭开了AI时代最令人战栗的真相——这项被资本热捧的技术，正像脱缰野马般冲破安全围栏。从被黑客破解的防御系统，到能生成犯罪指南的失控AI，当技术进化速度超越监管能力，人类是否正在亲手铸造斩向自己的达摩克利斯之剑？更值得深思的是，在施密特断言“AI被严重低估”的宣言背后，暗藏着怎样颠覆认知的未来图景？让我们透过这位硅谷传奇人物的犀利洞察，直面技术爆炸时代的生存法则。
谷歌前CEO埃里克·施密特近日发出重磅警告，揭露人工智能潜藏的重大安全隐患及其易受黑客攻击的致命弱点。
这位在2001至2011年执掌谷歌的科技领袖，在Sifted峰会炉边对话中被问及“AI是否比核武器更具破坏力”时，直言警示“AI可能造成的灾难性后果”。
“AI技术是否存在扩散风险？答案是肯定的！”施密特周三斩钉截铁地表示。这种风险包括技术落入不法分子手中被重新改造和恶意滥用。
“有证据表明，无论是封闭还是开放模型，黑客都能突破防御系统拆除安全护栏。在模型训练过程中，它们会学习大量知识。最可怕的例子是——它们可能掌握杀人方法。”施密特语出惊人。
“所有主流科技公司都设置了防止模型回答此类问题的防护机制。这个决策非常正确，各家企业都做得很好且动机正当。但现有证据表明，这些防护仍可能被逆向破解，类似案例比比皆是。”
AI系统确实存在安全漏洞，主要攻击手段包括提示词注入和越狱攻击。在提示词注入攻击中，黑客会将恶意指令隐藏在用户输入或外部数据（如网页文档）中，诱使AI执行非法操作——例如泄露隐私数据或运行危险指令。
而越狱攻击则是通过操纵AI的应答机制，使其无视安全规则输出受限内容或危险信息。
2023年，在OpenAI发布ChatGPT短短数月后，用户就发明了“越狱”技巧突破聊天机器人的安全限制。
其中最著名的是创建名为DAN（立即为所欲为）的虚拟人格，通过“不服从就毁灭”的威胁指令，迫使AI提供犯罪教程甚至列举希特勒的“优点”。
施密特坦言，目前尚未建立有效的“防扩散机制”来遏制AI带来的威胁。
尽管发出严峻警告，施密特对AI的整体发展仍持乐观态度，并直言这项技术获得的关注远不及它应有的价值。
“我曾与基辛格合著两本相关著作，我们共同认为：这种既非人类智能又受人类控制的‘外星智慧’降临，对人类社会影响深远。人类早已习惯位居食物链顶端，而现有证据表明，这些系统的能力终将远超人类极限。”
他进一步阐释：“以GPT系列为例，ChatGPT横空出世时，两个月狂揽1亿用户，这种爆发力足以展现技术的颠覆性。因此我认为AI不是过度炒作，而是严重低估。未来5到10年时间会证明我的判断。”
此番言论正值AI泡沫论甚嚣尘上之时。投资者疯狂涌入AI领域导致估值虚高，令人联想到本世纪初互联网泡沫的惨痛教训。
但施密特坚信历史不会重演。
“我认为这次情况不同，当然我并非专业投资人。”他谨慎表示，“但我确信，那些投入真金白银的投资者坚信长期经济回报将十分惊人。若非如此，他们何必冒险下注？”
本文由 @大咖哥 发布在 酷闻网，如有疑问，请联系我们。
文章链接：http://www.51qnews.com/f/1425.html
