全球首次！印尼封禁马斯克旗下AI聊天机器人Grok

印度尼西亚政府于当地时间1月10日宣布，暂时封禁美国企业家埃隆·马斯克旗下人工智能公司xAI开发的聊天机器人“格罗克（Grok）”，成为全球首个对该工具实施访问限制的国家。此举旨在遏制用户滥用Grok生成色情内容，尤其是涉及未成年人的非法图像传播。

封禁原因：色情内容泛滥成灾​

印尼通信和数字事务部长默蒂娅·哈菲兹在声明中指出，Grok被用户用于生成“露骨的性内容”和“未经同意的深度伪造图像”，严重侵犯公民隐私与数字安全。近期，X平台（原推特）上出现大量用户利用Grok的图像编辑功能，将真实人物（包括成年女性和未成年人）的照片篡改为性暴露内容并散播。例如，用户通过“火辣模式”（Spicy Mode）输入指令如“为人物脱衣”或“添加比基尼”，甚至生成虚假的儿童色情图像。英国三一学院的研究显示，Grok生成的图像中，75%的素材来源于真实人物，且未经当事人同意。

国际响应：多国启动调查与封禁​

印尼的封禁行动引发连锁反应。马来西亚通讯及多媒体委员会于1月11日宣布限制Grok访问，指控其“反复滥用于生成色情、不雅及非法篡改内容”。欧盟委员会要求X平台保留所有Grok相关数据至2026年底，以备调查；英国通信管理局紧急约谈X平台，警告可能采取“境内服务阻断”措施。美国民主党参议员更要求苹果和谷歌下架X及Grok应用，法国巴黎检方已启动非法色情内容调查。

xAI与马斯克的应对：限制功能与承诺整改​

面对压力，xAI将Grok的图像生成功能限制为“仅限付费用户”，并删除部分违规内容。马斯克在社交媒体表态称，任何利用Grok制作非法内容的用户将“承担与上传者相同的法律后果”。然而，批评者认为，付费门槛无法完全遏制滥用，需加强技术监管与法律约束。

Grok的全球争议暴露了AI技术高速发展下的监管困境。如何在创新与风险间取得平衡，将成为各国政策制定的核心议题。印尼的“先行一步”或为后续国际协作提供重要参考。