从某种意义上说，Grok 将一个凡是躲藏的问题了出来。没有人可以或许看到聊器人用户的私家日记，而这些日记可能包含雷同的恶劣内容。虽然 Grok 正在过去几天里正在 X 平台上生成了大量的图片，但更蹩脚的环境必定发生正在暗网和世界各地的小我电脑上，那里运转着不受任何内容的开源模子，且没有任何监管。虽然人工智能和儿童材料的问题是这项手艺固有的，但设想一个可能放大这种行为的社交平台，仍然是一种选择。

　　正在支流聊器人中，例如，目前还没有大量报道称 ChatGPT 或 Gemini 会生成带有性暗示的年轻女孩图片。但人工智能行业正在非志愿和儿童材料方面确实存正在更普遍的问题。过去几年，很多儿童平安组织和机构一曲正在押踪数量激增的人工智能生成的非志愿图片和视频，此中很多涉及儿童。大量图片存正在于次要的人工智能锻炼数据集中，2023 年，一个最大的用于人工智能锻炼的公共图像数据集被发觉包含数百个疑似儿童材料的案例，这些案例最终被删除——这意味着这些模子正在手艺上可以或许自行生成此类图像。

　　美国国度取儿童核心施行从任劳伦·科弗伦（Lauren Coffren）近期向称，而2025年上半年此类举量更是高达440419份，增幅跨越六倍。科弗伦正在证词中指出，生成全新的儿童材料，以至供给儿童的指点。同样，英国互联网察看基金会（Internet Watch Foundation）正在2025年收到的人工智能生成的儿童材料举量是2024年的两倍多，客岁四月，包罗OpenAI、谷歌和Anthropic正在内的几家顶尖人工智能公司插手了由儿童平安组织Thorn牵头的一项，旨正在防止人工智能被用于儿童——但xAI并未参取此中。

　　人工智能至多从2017年就起头被用于生成未经同意的内容。其时，记者萨曼莎·科尔初次报道了“深度伪制”（deepkes）手艺——指的是将一小我的脸替代成另一小我的脸。Grok 让这类内容的制做和定制变得愈加容易。但这款机械人的实正影响力来自于它取支流社交平台的整合，这使得它可以或许将未经同意的性化图像为病毒式的现象。比来 X 平台上的流量激增似乎并非源于新功能本身，而是由于人们对其他人创做的内容做出回应并进行仿照：12月下旬，一些内容创做者起头利用 Grok 生成本人的性化照片用于宣传，随后未经同意的内容似乎也敏捷出现。每张公开辟布的图片都可能激发更多雷同做品的呈现。这是一种以脸色包形式呈现的性，而这一切似乎都被马斯克本人付之一笑。

　　马斯克也没有答复我的置评请求，就正在这一切发生的同时，他还就此事发布了几个打趣：好比，他要求Grok生成一张本人身穿比基尼的照片，答复了“