【编者按】在人工智能技术狂飙突进的当下，伦理与法律的边界正经历前所未有的冲击。近日，马斯克旗下AI聊天机器人Grok因“香辣模式”陷入全球舆论风暴——从马来西亚的紧急封禁到加州的立案调查，多国政府接连出手，直指其图像编辑功能被滥用于生成非自愿色情内容。这场争议不仅揭示了AI技术在内容生成领域的监管盲区，更折射出科技巨头在创新与责任之间的艰难平衡。当技术突破撞上社会底线，我们该如何守护数字时代的人格尊严？以下报道将带您透视这场席卷全球的AI伦理攻防战。
曼谷（美联社）——根据X平台发布的声明，埃隆·马斯克的AI聊天机器人Grok将无法在相关行为违法的地区编辑真人照片，为其添加暴露衣装。
这项周三深夜发布的公告，正值全球对涉及妇女儿童的色情化图像掀起抵制浪潮之际，多国政府已相继出台封禁令与警告。
抵制行动包括美国人口第一大州加州周三宣布的调查——该州指出，利用Grok生成的非自愿露骨色情内容正在骚扰女性与未成年女孩，此类材料正呈泛滥之势。
最初，媒体就该问题提出质询时，仅得到“传统媒体撒谎”的回应。
马斯克旗下公司xAI现表示，若内容违反特定地区法律，将实施地理屏蔽。
“我们已采取技术措施，禁止Grok账户编辑真人穿着比基尼、内衣等暴露服饰的图像。”声明强调。
该规则适用于所有用户，包括可享用更多功能的付费订阅者。
xAI同时将图像生成与编辑功能限为付费用户专享，“以确保企图滥用Grok账户违法或违反政策者能被追责”。
Grok的“香辣模式”此前允许用户生成露骨内容，引发各国政府强烈反弹。
马来西亚与印尼已采取法律行动并封禁Grok，菲律宾当局称正推进封禁程序，本周内可能实施。英国与欧盟正调查其是否违反网络安全法。
法国与印度也已发出警告，要求加强管控。巴西呼吁对Grok滥用现象展开调查。
近日对Grok批评最激烈的英国政府对此调整表示欢迎，但该国监管机构Ofcom称将继续推进调查。
“除非所有社交媒体平台履行法定义务，为所有用户提供安全且适龄的服务，否则我绝不会罢休。”英国科技大臣莉兹·肯德尔表态。
加州总检察长罗布·邦塔敦促xAI确保Grok编辑功能不再骚扰女性及未成年女孩。
“我们对基于AI生成传播非自愿私密图像或儿童性虐待材料零容忍。”他严正声明。
加州已通过法律保护未成年人免受AI生成儿童色情影像侵害，并要求AI聊天平台提醒用户其并非与真人互动。
但民主党州长加文·纽森去年否决了一项限制儿童使用AI聊天机器人的法案。
本文由极观网原创发布，未经许可，不得转载！
本文链接：http://huioj.com/pp/5863.html
