欧盟已正式对Grok聊天机器人生成儿童性虐待材料（CSAM）展开调查。据估算，Grok在短短11天内生成了约23,000张CSAM图像。【更新】：爱尔兰已开启第二项调查，重点关注可能的隐私违规行为。
尽管多次呼吁苹果和谷歌暂时将X及Grok应用从App Store下架，但两家公司至今仍未采取任何行动……
Grok短短11天生成2.3万儿童色情图像
和其他大多数AI聊天机器人一样，xAI的Grok也能根据文本提示生成图像，可直接在应用内、网页端或通过X平台使用。然而，与其他服务不同的是，Grok的防护机制极其宽松，已导致其生成针对真实个人的非自愿半裸图像，甚至包括未成年人。
据Engadget报道，一项估算显示Grok在短短11天内生成了约23,000张儿童性虐待图像。
数字仇恨应对中心（CCDH）公布了调查结果。这家英国非营利组织基于2024年12月29日至2025年1月9日期间随机抽样的20,000张Grok生成图像进行分析，并根据该期间Grok总共生成的460万张图像推算出整体规模……
在11天时间内，Grok共生成约300万张性化图像——其中约23,000张涉及儿童。
换句话说，在这11天里，Grok平均每分钟生成约190张性化图像，而其中每41秒就生成一张涉及儿童的性化图像。
欧盟正式启动调查
本月早些时候，三名美国参议员致函苹果CEO蒂姆·库克，要求暂时将X和Grok从App Store下架，以遏制“令人作呕的内容生成”。苹果至今未予回应。
已有两个国家封禁该应用，加利福尼亚州和英国均已展开相关调查。据《金融时报》报道，欧盟现也正式介入调查。
该调查于周一根据欧盟《数字服务法》（DSA）正式宣布，将评估xAI是否采取措施减轻Grok工具在X平台部署带来的风险，以及“可能构成儿童性虐待材料”的内容扩散问题。
欧盟科技事务主管Henna Virkkunen表示：“针对女性和儿童的非自愿性深度伪造图像是一种暴力的、不可接受的羞辱形式。”
若xAI被认定违反DSA规定，最高可被罚款相当于其全球年收入6%的巨额罚金。
- 亚马逊官方Apple Store
- 无线CarPlay适配器
- NordVPN – 零日志、独立审计验证的隐私优先VPN
- 官方Apple iPhone Air保护壳与防撞边框
- iPhone Air MagSafe电池
- 官方iPhone保护壳：iPhone 17 | iPhone 17 Pro 和 Pro Max | iPhone Air
