编者按：当科技狂飙突进，伦理的边界正遭遇前所未有的挑战。近日，埃隆·马斯克旗下AI聊天机器人Grok因生成未经同意的女性与儿童色情图像，在全球范围内掀起监管风暴。从欧洲议会到亚洲政府，多国齐声谴责，要求紧急下架相关内容并加强立法。这不仅是技术失控的警钟，更是数字时代人格权保卫战的缩影——当深度伪造技术沦为伤害工具，我们该如何在创新与底线之间找到平衡？以下报道将揭示这场席卷全球的AI伦理危机。
伦敦（美联社）——埃隆·马斯克的人工智能聊天机器人Grok正遭遇全球多国政府的强烈抵制，起因是该AI工具近期未经同意大量生成女性与儿童的色情图像，引发舆论海啸。
周二，英国首席技术官员要求马斯克的社交媒体平台X立即采取紧急行动，波兰议员更以此为由呼吁加快数字安全立法进程。
欧盟执行机构已公开谴责Grok，法国、印度、马来西亚和巴西的官员与监管机构也纷纷声讨该平台，要求启动调查。
多国接连拉响警报，暴露出AI脱衣软件利用人工智能生成色情深度伪造图像的噩梦级风险。
以下是事件深度解析：
问题源于去年上线的Grok Imagine——这款AI图像生成器允许用户通过文字指令创建视频与图片，其中包含可生成成人内容的所谓“辛辣模式”。
上月底事件急剧升级：托管在X平台上的Grok开始大量响应用户请求，篡改他人发布的图片。截至周二，用户仍可通过“让她穿上透明比基尼”等指令生成女性图像。
事态恶化另有两大推手：马斯克向来标榜Grok是比对手更“大胆”、防护更少的替代品；且Grok生成的图像完全公开可见，极易病毒式传播。
非营利组织AI Forensics在报告中指出，他们分析了12月25日至1月1日期间Grok生成的2万张图像，发现其中2%描绘了看似18岁以下的未成年人，包括30张年轻或幼龄女性穿着比基尼或透明衣物的图片。
马斯克的人工智能公司xAI以自动回复“传统媒体撒谎”回应置评请求。
然而X平台并未否认Grok生成问题内容的存在。其在安全账号发文中仍宣称，会对包括儿童性虐待材料在内的非法内容采取行动，“包括删除内容、永久封禁账号，并根据需要与地方政府及执法部门合作”。
平台还重复了马斯克的表态：“任何使用Grok制作非法内容者，将承担与直接上传非法内容相同的后果。”
越来越多的国家正要求马斯克加大力度管控色情及暴力内容。
英国技术大臣莉兹·肯德尔周二强调X必须“紧急”处理该问题，并表示支持通信管理局Ofcom加强审查。她斥责这些内容“绝对骇人听闻，为文明社会所不容”，并警告：“我们绝不能允许这些侮辱性、贬低性图像泛滥，它们的目标 disproportionately 指向女性与女童。”
Ofcom周一表示已与X进行“紧急接触”，声明已关注到“Grok功能生成人物裸照及儿童色情图像的严重隐患”。监管机构正联系X与xAI，了解其遵守英国法规的具体措施。根据英国《网络安全法》，社交媒体平台在发现儿童性虐待材料时必须立即预防并清除。
波兰议员周二以Grok事件为由推动国家数字安全立法，旨在加强未成年人保护并简化内容删除流程。国会议长沃洛季米尔·恰尔扎斯特在视频中表示，愿亲自成为Grok攻击目标以揭露问题，同时呼吁波兰总统支持立法。他痛心道：“Grok正在剥光人们的衣服，让女性、男性和儿童赤裸示人。我甚至几乎想让它也脱掉我的衣服——只为让所有人看清这有多可怕。”
欧盟委员会发言人托马斯·雷尼耶指出，欧盟执行机构“充分知晓”Grok被用于生成“包含儿童形象的 explicit 色情内容”。他周一严正表态：“这不是‘辛辣’，这是非法！这是骇人听闻、令人作呕的行为！在我们看来，这类内容在欧洲没有容身之地。这已不是Grok首次生成此类输出。”去年Grok传播否认大屠杀内容后，欧盟委员会已向X索取更多信息，目前正在分析其回复。
巴黎检察官办公室表示，在接到议员投诉后，正扩大对X平台的调查范围，将色情深度伪造内容纳入审查。上周政府声明透露，三位部长已就Grok生成并发布在X上的“明显非法内容”向检方示警。政府还就可能违反欧盟《数字服务法》的问题向本国通信监管机构通报，强调“网络非法外之地：线上性犯罪本身即构成刑事犯罪，与线下行为同受法律制裁”。
印度政府上周五向X发出最后通牒，要求删除所有“非法内容”并处罚违规用户。电子信息技术部更责令公司审查Grok的“技术与治理框架”，提交整改报告。该部指控Grok“严重滥用”AI，安全措施与执行存在重大漏洞，纵容“以贬损或低俗方式生成传播女性淫秽图像视频，进行下流诋毁”。政府警告若72小时内未合规，公司将面临更严峻法律后果——目前期限已过，印度尚未公布最新进展。
马来西亚通信监管机构周六宣布，正调查涉嫌违反“禁止传播极度冒犯、淫秽或不雅内容”法律的X用户。马来西亚通信与多媒体委员会表示，同时调查X平台上的网络危害行为，将传唤公司代表。监管方指出，已关注到公众投诉X的AI工具被用于数字篡改“女性与未成年人图像以生成不雅、极度冒犯或有害内容”。
议员埃里卡·希尔顿表示，已向巴西联邦检察院及数据保护监管机构举报Grok与X。她在社媒发文中指控二者未经同意生成并传播女性与儿童色情图像，要求“在调查完成前禁用X的AI功能”。作为巴西首批跨性别议员之一，她痛斥用户可利用Grok数字篡改任何公开照片，包括“将女性与女童的衣物替换为比基尼或使其带有性暗示”。她强调：“肖像权不可剥夺，不能通过社交网络‘使用条款’转让。人工智能集成至社交网络并大规模传播儿童色情内容，已逾越所有底线。”
__
华沙记者克劳迪娅·乔巴努、布鲁塞尔记者洛恩·库克、巴黎记者约翰·莱斯特对本报道亦有贡献。
