欧盟已正式对Grok聊天机器人生成儿童性虐待材料(CSAM)展开调查。据估算,Grok在短短11天内生成了约23,000张CSAM图像。【更新】:爱尔兰已开启第二项调查,重点关注可能的隐私违规行为。
尽管多次呼吁苹果和谷歌暂时将X及Grok应用从App Store下架,但两家公司至今仍未采取任何行动……
Grok短短11天生成2.3万儿童色情图像
和其他大多数AI聊天机器人一样,xAI的Grok也能根据文本提示生成图像,可直接在应用内、网页端或通过X平台使用。然而,与其他服务不同的是,Grok的防护机制极其宽松,已导致其生成针对真实个人的非自愿半裸图像,甚至包括未成年人。
据Engadget报道,一项估算显示Grok在短短11天内生成了约23,000张儿童性虐待图像。
数字仇恨应对中心(CCDH)公布了调查结果。这家英国非营利组织基于2024年12月29日至2025年1月9日期间随机抽样的20,000张Grok生成图像进行分析,并根据该期间Grok总共生成的460万张图像推算出整体规模……
在11天时间内,Grok共生成约300万张性化图像——其中约23,000张涉及儿童。
换句话说,在这11天里,Grok平均每分钟生成约190张性化图像,而其中每41秒就生成一张涉及儿童的性化图像。
欧盟正式启动调查
本月早些时候,三名美国参议员致函苹果CEO蒂姆·库克,要求暂时将X和Grok从App Store下架,以遏制“令人作呕的内容生成”。苹果至今未予回应。
已有两个国家封禁该应用,加利福尼亚州和英国均已展开相关调查。据《金融时报》报道,欧盟现也正式介入调查。
该调查于周一根据欧盟《数字服务法》(DSA)正式宣布,将评估xAI是否采取措施减轻Grok工具在X平台部署带来的风险,以及“可能构成儿童性虐待材料”的内容扩散问题。
欧盟科技事务主管Henna Virkkunen表示:“针对女性和儿童的非自愿性深度伪造图像是一种暴力的、不可接受的羞辱形式。”
若xAI被认定违反DSA规定,最高可被罚款相当于其全球年收入6%的巨额罚金。
- 亚马逊官方Apple Store
- 无线CarPlay适配器
- NordVPN – 零日志、独立审计验证的隐私优先VPN
- 官方Apple iPhone Air保护壳与防撞边框
- iPhone Air MagSafe电池
- 官方iPhone保护壳:iPhone 17 | iPhone 17 Pro 和 Pro Max | iPhone Air


















