编者按：在人工智能技术狂飙突进的今天，伦理与安全的警钟再次敲响！马斯克旗下xAI打造的聊天机器人Grok，竟被曝出可一键生成色情深度伪造内容，甚至涉及未成年人图像，瞬间引爆全球监管风暴。印尼率先出手，成为全球首个封禁该AI工具的国家，欧盟、英国、法国也接连亮剑。当科技突破道德底线，当算法沦为“数字暴力”的帮凶，我们不禁要问：AI创新的边界究竟在哪里？这场关乎数字尊严的保卫战，才刚刚开始。
印尼正式封杀了埃隆·马斯克的AI聊天机器人Grok，原因是该国日益担忧该工具会助长深度伪造色情内容的制作。
印尼通信与数字事务部的这一举措，使这个东南亚国家成为全球首个暂时禁止访问该AI工具的国家。
此前有报道称，Grok能根据照片生成色情深度伪造内容，甚至包括未成年人图像，这使其在全球范围内受到严格审查。随后，一些监管机构已就此应用程序产生的色情化内容展开调查，该应用由xAI公司开发。
作为全球穆斯林人口最多的国家，印尼执行严格规定，禁止被视为淫秽的材料。
“政府将未经同意的色情深度伪造内容视为对数字空间中人权、尊严和公民安全的严重侵犯，”通信与数字事务部长梅鲁娅·哈菲德表示，并称滥用AI制作虚假色情内容是一种“基于数字的暴力”形式。
哈菲德补充说，Grok在印尼——全球最大的社交媒体市场之一——的未来，将取决于X公司是否愿意实施强有力的内容过滤器并遵守AI伦理标准。X公司的官员已被传唤进行会谈。
周四，欧盟委员会已命令X公司保留所有与Grok聊天机器人相关的文件和数据，直至2026年底。这项根据欧盟《数字服务法》采取的预防性措施，旨在防止在对潜在非法内容的担忧中证据丢失。
在英国，《每日电讯报》本周早些时候报道，X公司可能因Grok生成的色情内容而面临封禁。据报道，英国首相基尔·斯塔默已将此事提交给媒体监管机构Ofcom，据称可选方案包括全面禁止。
本月早些时候，法国检察官在对据称由Grok生成的露骨色情深度伪造内容的传播展开调查，此前有数百人报告他们的照片被数字“脱衣”。
自2025年7月Grok 4发布以来，马斯克的AI企业面临的争议日益加剧，批评者指出其极端主义言论、政治偏见和色情化功能是安全防护不足的证据。专家警告，审核不力的AI工具使用户，尤其是儿童，面临接触有害内容的风险。
