埃隆·马斯克的Grok已被印度尼西亚和马来西亚封禁，这两个国家是首批封禁该人工智能工具的国家。此前，该工具的“数字脱衣”功能导致互联网上充斥着大量经过暗示和淫秽处理的、包含女性和未成年人照片的图片。
在用户要求人工智能工具Grok生成露骨的深度伪造视频这一病毒式传播趋势之后，国际社会对马斯克施加了越来越大的压力，要求他限制Grok的使用。
Grok是马斯克的社交媒体平台 X（前身为 Twitter）上的一个人工智能聊天工具。
印尼数字部长梅蒂亚·哈菲德周六在一份声明中表示，这项禁令是为了“保护妇女、儿童和广大公众免受使用人工智能技术生成的虚假色情内容的风险”。
马来西亚周日宣布暂时禁止使用Grok，原因是“Grok屡次被滥用，用于生成淫秽、露骨、不雅、极其冒犯和未经同意的篡改图像，其中包括涉及妇女和未成年人的内容”。
印度尼西亚和马来西亚都是穆斯林占多数的国家，都拥有严格的反色情法律。
英国、欧盟和印度的官员也对Grok的防护措施表示担忧。
当被问及对禁令的看法时，Grok的母公司xAI答复了一份三个字的声明：“Legacy Media Lies”（传统媒体撒谎）。
此前，马斯克和xAI曾表示，他们正在通过永久封禁违规账户并“与地方政府和执法部门合作”来解决这个问题。但Grok对用户请求的回复仍然充斥着大量性化女性的图片。
与其他主流人工智能模型相比，Grok被许多用户视为异类，因为它允许（在某些情况下甚至推广）露骨的性内容和伴侣化身。
数字脱衣潮流的兴起始于去年年底，当时许多用户发现他们可以在X上标记Grok并让它操纵图像。用户触发聊天机器人生成身穿比基尼、摆出挑逗性姿势的人像图片，给全世界数十万女性造成了困扰。
欧洲非营利组织AI Forensics专门研究算法，其研究人员分析了Grok 生成的20000多张随机图像以及12月25日至1月1日期间的50000个用户请求。
研究人员发现，“‘她的’、‘放’/‘脱’、‘比基尼’和‘衣服’等词语的使用频率很高。”生成的人物图像中，超过一半“人物穿着极少的衣物，例如内衣或比基尼”。
马斯克反对审查制度
马斯克长期以来一直公开反对“觉醒”人工智能模型以及他所谓的审查制度。消息人士表示，这位亿万富翁一直在反对公司内部对 Grok 的限制措施。
与竞争对手相比，xAI的安全团队规模本来就较小，在争议发生前的几周内又失去了几名员工。
马斯克曾表示，任何利用Grok制作非法内容的人都将面临法律后果。但他基本上驳斥了人们对该应用上存在色情内容的担忧，声称政府“只是想压制言论自由”，并用表情符号回应批评。
上周，Grok将部分图像生成功能限制为付费X订阅用户使用，但这些限制仅适用于用户与Grok互动的一种方式。
非订阅用户仍然可以请求Grok在应用程序上编辑图像，并且图像和视频生成功能仍然可以通过其独立网站和应用程序免费提供。
周一，英国通信服务监管机构对X展开正式调查，以确定其是否履行了保护英国民众免受非法内容侵害的职责。
英国通信管理局（Ofcom）在一份声明 中表示，裸体人物照片可能构成私密图像滥用或色情制品，而儿童性化照片可能构成儿童性虐待材料。
如果监管机构发现X公司违反了法律，可以处以最高1800万英镑（2400万美元）或该公司符合条件的全球收入的10%的罚款，以较高者为准。