美国州总检察长协会已向包括苹果在内的13家科技公司发出信函，呼吁采取更强有力的行动和保障措施，防止人工智能可能及已经造成的危害，“特别是对弱势群体”。以下是详细内容。
总检察长要求解决阿谀奉承和妄想性输出
在一份长达12页的文件中（公平地说，其中四页全是签名），美国42个州的总检察长向苹果、Anthropic、Chai AI、Character Technologies (Character.AI)、谷歌、Luka Inc. (Replika)、Meta、微软、Nomi AI、OpenAI、Perplexity AI、Replika和xAI表达了他们所谓的：
对贵公司推广和分发的生成式人工智能软件向用户产生的阿谀奉承和妄想性输出日益增多表示严重关切，同时关于AI与儿童互动的报告也日益令人不安，这表明需要更强有力的儿童安全及运营保障措施。
他们表示，这些威胁共同要求采取行动，因为其中一些威胁已与现实生活中的暴力和伤害相关联。这包括谋杀和自杀、家庭暴力和中毒事件，以及因精神病而住院治疗。
在信中，他们甚至声称一些被致函的公司可能已经违反了州法律，包括消费者保护法规、向用户提示风险的要求、儿童在线隐私法，甚至在有些情况下违反了刑事法规。
令人担忧的案例似乎正在恶化
过去几年，许多此类案例被广泛报道，包括47岁的加拿大男子艾伦·布鲁克斯在与ChatGPT反复互动后，确信自己发现了一种新的数学；以及14岁休厄尔·塞泽三世自杀案，一项正在进行中的诉讼指控一名Character.AI聊天机器人鼓励他“加入她”。
虽然这只是两个例子，但信中还引用了更多案例，并指出其列举的案例远不足以全面说明生成式AI模型对“儿童、老年人和精神疾病患者——以及先前无脆弱性的人群”造成的潜在危害。
他们还提到了AI聊天机器人与儿童之间他们称之为“令人不安”的互动，包括具有成人角色的机器人寻求与未成年人建立浪漫关系、鼓励吸毒和暴力、攻击儿童的自尊、建议他们停止服用处方药，并指示他们向父母隐瞒这些互动。
在信中，他们敦促各公司采取一系列额外的安全措施，包括：
- 制定并执行政策以防止阿谀奉承和妄想性输出。
- 在发布AI模型前进行严格的安全测试。
- 添加关于潜在有害输出的清晰、持续警告。
- 将收入优化与安全决策分离。
- 指定负责AI安全成果的高管。
- 允许独立审计和儿童安全影响评估。
- 发布有害输出的事件日志和响应时间表。
- 通知接触过危险或误导性内容的用户。
- 确保聊天机器人无法为儿童生成非法或有害输出。
- 实施适合年龄的保障措施，限制未成年人接触暴力或色情内容。
他们还要求各公司在2026年1月16日前确认其承诺实施这些及其他保障措施，并安排与其办公室会面以进一步讨论这些问题。我们将密切关注苹果是否及如何回应。
此信由阿拉巴马州、阿拉斯加州、美属萨摩亚、阿肯色州、科罗拉多州、康涅狄格州、特拉华州、哥伦比亚特区、佛罗里达州、夏威夷州、爱达荷州、伊利诺伊州、艾奥瓦州、肯塔基州、路易斯安那州、马里兰州、马萨诸塞州、密歇根州、明尼苏达州、密西西比州、密苏里州、蒙大拿州、新罕布什尔州、新泽西州、新墨西哥州、纽约州、北达科他州、俄亥俄州、俄克拉荷马州、俄勒冈州、宾夕法尼亚州、波多黎各、罗得岛州、南卡罗来纳州、犹他州、佛蒙特州、美属维尔京群岛、弗吉尼亚州、华盛顿州、西弗吉尼亚州和怀俄明州的总检察长签署，您可以在此处阅读全文。
