至少37个美国州的检察长正对Grok聊天机器人持续生成儿童性虐待材料（CSAM）的严重问题采取行动。
在此之前，该应用已被两个国家全面封禁，英国和欧盟也已正式展开调查，但苹果和谷歌至今仍然无视各方要求，拒绝暂时将Grok和X从各自的应用商店下架……
Grok的CSAM危机
如今大多数AI聊天机器人都能根据文字提示生成图像，xAI的Grok也不例外。它可以在应用内、网页端或通过X平台直接生成。
但Grok的防护措施异常宽松，这导致它被用来生成真实人物（包括未成年人）的非自愿近乎裸体图像。据估算，仅在11天内就生成了约23,000张CSAM图像。
已有两个国家彻底封禁该应用，英国和欧盟的调查也正在进行中。
37个美国州集体发声
据Wired报道，至少37个美国州及领地现在正要求xAI立即解决问题，此前他们中的大多数已联合签署了一封公开信。
至少37个美国州及领地的检察长正对xAI采取行动，此前有人利用其聊天机器人Grok在今年早些时候生成大量色情化图像……除签署公开信的35个州外，加利福尼亚州和佛罗里达州的检察长也向WIRED表示，他们已采取相应行动。
公开信要求xAI立即采取以下六项措施：
- 采取一切必要措施，确保Grok不再能够生成非自愿的私密图像（包括未达到完全裸体或露骨性行为标准、但涉及比基尼、内衣、暴露服装或挑逗姿势的非自愿图像）以及儿童性虐待材料；
- 删除所有已生成的此类内容；
- 封禁创建这些材料的账户；
- 在适用的情况下，向相关部门举报这些创建者和用户；
- 赋予X用户控制权，让他们能决定自己的内容是否可被Grok编辑，至少应提供简单选项，禁止@Grok账户回复他们的帖子或在其他用户提示下编辑他们的图像；
- 确保最近宣布的防护措施不是仅仅把生成非自愿私密图像的功能移到付费墙之后，而是真正从根本上遏制X平台和Grok整个生态中的此类内容生成。
苹果和谷歌必须采取行动
本月早些时候，三位美国参议员已致函苹果CEO蒂姆·库克，要求因“令人作呕的内容生成”问题，暂时将X和Grok从App Store下架。苹果至今尚未采取任何行动。
