据《卫报》报道,三位美国参议员已致函苹果、谷歌和Meta的首席执行官,要求他们就未能阻止用户获取AI驱动的“脱衣”应用一事作出回应。以下是详细情况。
背景说明
上个月,苹果更新了App Store规则,试图打击那些让用户生成未经同意的裸照的应用。
根据新规,允许用户创建AI生成内容的应用必须包含防滥用保护措施,包括过滤不良内容、举报违规内容以及封禁滥用用户的工具。
苹果还警告称,主要用于色情内容或物化真实人物的应用,可能在未经通知的情况下被从App Store下架。
这些举措虽然用意良好,但出台之际,正值AI“脱衣”应用相关报道日益增多,这些应用能轻松让用户生成未经同意的私密图像。
在规则更新两个月前,苹果下架了一款允许用户创建真实人物色情深度伪造内容的应用,当时《连线》杂志曾就此向苹果求证;而再往前一个月,旧金山市检察官大卫·丘曾要求苹果和谷歌下架多款“脱衣”应用。
此外,苹果还根据科技透明度项目(TTP)的调查下架了多款应用。TTP在1月和4月发布的报告中指出,这类应用在App Store上广泛存在,有时甚至出现在赞助搜索结果中。
在这些调查过程中,苹果一直坚称“脱衣”应用始终违反其App审核指南,并表示会主动拒绝和移除违规应用,包括根据用户举报发现的那些。
当然,苹果并非唯一面临这一挑战的公司。谷歌因Play Store上存在类似应用而受到批评,Meta则因允许开发者在Facebook和Instagram上为这些应用投放广告而受到审视,这一点在上述《连线》报道中已有提及。
这也引出了今天《卫报》的最新报道。
参议院民主党人要求回应
据《卫报》独家报道,“三位参议院民主党人致函科技公司首席执行官,称其平台上针对‘脱衣’应用的防护措施不足。”
报道原文如下:
三位美国参议员表示,苹果和谷歌未能有效检测并移除那些可用于生成未经同意的裸照或色情图像的应用。他们还指出,Meta仍在通过为这些所谓的“脱衣”应用投放广告而获利,这些应用“正在全球范围内伤害女性和女孩”。
这三位参议员分别是俄勒冈州的罗恩·怀登、马萨诸塞州的埃德·马基以及新墨西哥州的本·卢汉。他们声称,除了未能移除这些应用外,这些公司实际上还可能从其分发和推广中获利。
针对这封信,谷歌和Meta均表示,他们禁止此类应用或其推广,并努力检测和移除平台上的违规内容,这与苹果过去在回应同类问题时反复强调的立场基本一致。
然而,怀登办公室认为,仅仅重申这些政策,或者像苹果那样更新政策,如果公司在执行上仍然力不从心,那意义不大。
《卫报》报道原文:
怀登的首席通讯顾问兼副政策主任基思·楚表示,澄清政策与执行政策不是一回事。尽管这些公司重申禁止此类应用,但它们仍在苹果和谷歌应用商店中不断出现,或在Meta平台的广告中被推广,他补充道。
TTP在上个月发布的最新调查中发现,App Store和Play Store上有135款能够生成裸照或色情图像的应用,这些应用甚至可以用注册为13岁男孩的账号下载。
此外,研究人员还发现,即使账号设置了家长控制,也能在无需家长批准的情况下下载这些应用。
尽管苹果和谷歌已移除了调查中识别出的应用,但《卫报》指出,这些应用在已安装的设备上仍可继续使用。
如今,参议员怀登警告称,如果这些公司不能更好地打击此类应用,国会可能需要介入。
如需阅读《卫报》完整报道,请点击此链接。
















