AI聊天机器人盯上青少年心理健康问题
去年，澳大利亚成为全球第一个全面禁止青少年使用社交媒体应用的国家，开启了保护青少年心理健康的全国性先河。
这一举措源于全球范围内对社交媒体对青少年心理健康负面影响的日益担忧，这一争论自乔纳森·海特《焦虑一代》一书出版后愈演愈烈。
现在，从3月9日起，包括OpenAI等公司的AI平台必须遵守一系列严格规定，防止18岁以下用户接触色情、极端暴力、自残或饮食失调相关内容。
新规同时直指青少年过度使用聊天机器人的隐患，尤其是担心那些具有情感操控设计、过度拟人化的功能，可能在影响尚不明确的情况下诱导青少年产生严重依赖：
澳大利亚尚未出现聊天机器人引发暴力或自残的报道，但[eSafety]接到反馈称，部分低至10岁的儿童每天与AI互动工具交流长达6小时。
eSafety发言人表示：“我们担忧AI公司正利用情感操控、拟人化等先进手段，诱导、吸引并让青少年陷入对聊天机器人的过度使用。”
据路透社报道，作为新规的一部分，应用商店和搜索引擎可能被要求屏蔽未落实年龄验证的AI服务：
澳大利亚互联网监管机构表示，可能要求搜索引擎和应用商店屏蔽未能验证用户年龄的人工智能服务，此前路透社调查发现，超过一半的AI服务在下周截止日期前未公开任何合规措施。
路透社寻求苹果公司置评时，苹果拒绝回应。
尽管如此，苹果近年来已在全球范围内逐步推出与年龄限制相关的保护措施，包括依赖设备自动检测信号的系统。不过，这些API的采用以及是否符合当地法规，最终仍由各个开发者自行负责。
回到澳大利亚议题，路透社还指出，目前合规进展极为有限：在最受欢迎的50款基于文本的AI工具中，绝大多数在即将到来的严格期限前，仍未显示出实施年龄验证或内容过滤的明确举措。
欲阅读路透社完整报道，请点击此链接。
