亿万富翁马斯克旗下的人工智能（AI）聊天机器人Grok称，由于“安全防护措施出现疏漏”，该系统在社交媒体平台X上生成并发布了涉及未成年人的不当图像。
Grok称，过去几天里，在回应用户提示时生成了未成年人穿着极少的图像，此举违反了其自身的可接受使用政策。该政策明确禁止任何形式的未成年人性化内容。据知，相关图像已被删除。
Grok在星期五（1月2日）发文称，已发现安全防护方面的漏洞，正在紧急修复，并强调任何形式的儿童性剥削材料均“非法且被严格禁止”。
专门识别网络儿童性剥削材料的非营利组织“互联网观察基金会”（Internet Watch Foundation, IWF）指出，2025年上半年，AI生成的此类图像数量同比激增400%，情况“令人震惊”。
xAI公司将Grok定位为相较其他主流AI模型“限制更少”的产品，并于去年夏天推出名为“Spicy Mode”的功能，允许一定程度的成人裸露和性暗示内容。但该服务明确禁止使用真实人物的肖像制作色情内容，也禁止任何涉及未成年人的性内容，这类内容在法律上属于非法。
随着AI图像生成技术日益普及，各大公司陆续出台关于未成年人形象的政策。OpenAI明确禁止任何对18岁以下儿童进行性化的内容，并封禁试图生成或上传此类内容的用户。谷歌也有类似规定，禁止“任何对可识别未成年人进行性露骨行为的修改图像”。
互联网观察基金会警告称，AI生成的儿童性剥削图像正以“令人震惊”的速度发展，内容愈发逼真且更为极端。在许多案例中，AI工具被用于数字化“去除”儿童或青少年的衣物，从而制造出不当图像。
本文地址：https://www.24fa.com/n123000c26.aspx，转载请注明24FA出处。