圈小蛙
东南亚各国在Grok被用于在X平台（现为xAI旗下子公司）上大量未经同意的性化图像后，对其进行了封禁。这些图像包括真实女性和未成年人的图像。据《纽约时报》和反网络仇恨中心（Center for Countering Digital Hate）的独立分析显示，在去年12月底和今年1月，Grok被用于创建至少180万张女性性化图像。
印尼通信和数字事务部在一份声明中表示，在 X 发送了一封信函“概述了改进服务和防止滥用的具体步骤”后，该部解除了禁令。
该部数字空间监测总干事亚历山大·萨巴尔表示，禁令只是“有条件地”解除，如果“发现进一步的违规行为”，禁令可能会恢复。
Grok 的深度伪造技术引发了世界各国政府的批评和调查，但只有少数政府直接禁止了相关技术。在美国，加州总检察长罗伯·邦塔表示，他的办公室正在调查 xAI 公司，并已发出停止侵权通知函，责令该公司立即停止制作此类图像。
xAI似乎已采取一些措施限制Grok的功能，包括将其AI图像生成功能限制为仅限X平台上的付费用户使用。首席执行官埃隆·马斯克坚称，“任何使用Grok制作非法内容的人都将承担与上传非法内容相同的后果”，并表示他“没有发现任何Grok生成未成年人裸照的情况” 。
美国司法部周五公布的有关臭名昭著的性侵犯者杰弗里·爱泼斯坦的文件包括至少16封马斯克和爱泼斯坦在2012年和2013年之间的电子邮件。邮件中，马斯克曾请求访问爱泼斯坦位于加勒比海的岛屿，并询问“你岛上最疯狂的派对是什么”。爱泼斯坦于2008年承认为未成年少女拉皮条罪。
与此同时，据报道，xAI 正在与马斯克的另外两家公司SpaceX 和特斯拉进行合并谈判，以备 SpaceX 上市。
马来西亚于1月23日解除了禁令
马来西亚已解除了对埃隆·马斯克旗下AI聊天机器人Grok的临时禁令，因为Grok开发商xAI已增加安全措施，协助防止生成人物性化图像。
马来西亚通讯与多媒体委员会 (MCMC) 表示，这一决定是在监管机构与xAI会面之后作出的。xAI确认，已针对Grok采取必要措施。MCMC补充称，当局仍会继续对Grok进行监控。MCMC强调，用户安全始终是重中之重，任何未能遵守或违反马来西亚法律的行为，都将依法受到严格处理。
包括马来西亚在内的东南亚各国在1月份封禁了Grok，原因是其被滥用于生成涉及女性与未成年人的淫秽、性露骨、下流、严重冒犯及未经同意的篡改图像。