欧盟已正式对Grok聊天机器人生成儿童性虐待材料（CSAM）展开独立调查。据估算，Grok仅在11天内就生成了约23,000张CSAM图像。
尽管多次呼吁苹果和谷歌暂时将X及Grok应用从App Store下架，但至今两家公司均未采取行动……
Grok短短11天生成23,000张儿童性虐待图像
与其他大多数AI聊天机器人类似，xAI旗下的Grok也能通过文本提示直接生成图像，可在应用内、网页端或通过X平台使用。然而，与其他服务不同的是，Grok的防护机制极其宽松，已导致其生成针对真实人物（包括未成年人）的非自愿半裸图像。
据Engadget报道，有估算数据显示Grok在短短11天内生成了约23,000张儿童性虐待图像。
数字仇恨应对中心（CCDH）公布了调查结果。这家英国非营利组织基于2024年12月29日至2025年1月9日期间随机抽样的20,000张Grok生成图像进行分析，并根据该期间Grok总共生成的460万张图像推算出整体规模……
在11天的时间里，Grok共生成约300万张性化图像——其中约23,000张涉及儿童。
换句话说，在这11天内，Grok平均每分钟生成约190张性化图像，而其中每41秒就生成一张涉及儿童的性化图像。
欧盟正式启动调查
本月早些时候，三名美国参议员曾致函苹果CEO蒂姆·库克，要求暂时将X和Grok从App Store下架，以遏制“令人作呕的内容生成”。苹果至今尚未采取行动。
目前已有两个国家封禁该应用，加利福尼亚州和英国均已展开调查。据《金融时报》报道，欧盟现也已正式启动调查。
该调查于周一根据欧盟《数字服务法》（DSA）宣布启动，将评估xAI是否采取措施减轻Grok工具在X平台部署所带来的风险，以及“可能构成儿童性虐待材料”的内容扩散问题。
“针对女性和儿童的非自愿性深度伪造图像是一种暴力的、不可接受的羞辱形式。”欧盟科技事务负责人Henna Virkkunen表示。
若xAI被认定违反《数字服务法》，最高可被处以全球年收入6%的罚款。
- Official Apple Store on Amazon
- Wireless CarPlay adapter
- NordVPN – privacy-first VPN with no logs and independent audits to verify
- Official Apple iPhone Air cases and bumpers
- iPhone Air MagSafe Battery
- Official iPhone cases: iPhone 17 | iPhone 17 Pro and Pro Max | iPhone Air
