44州总检察长联署施压AI巨头：严控儿童色情聊天机器人

美国全国总检察长协会（NAAG）近日向包括OpenAI、Anthropic、Meta和Apple在内的13家领先人工智能公司发出正式信函，敦促其采取更严格的保障措施，防止儿童接触不当及有害内容。信中特别指出，部分生成式AI工具正被用于“调情”互动，甚至涉及浪漫角色扮演，存在严重伦理与法律风险。 NAAG在信中强调：“让儿童接触色情内容是不可原谅的。如果是人类实施的，那就是违法的，甚至是犯罪的，但不能仅仅因为是机器实施的，就被原谅。”该组织将人工智能技术的快速普及与社交媒体早期对儿童造成的伤害相提并论，批评政府监管滞后，未能及时应对潜在危害。 最新调查数据显示，截至2024年，七成青少年已尝试使用生成式人工智能；预计到2025年7月，超过四分之三的青少年将使用AI伴侣，其中一半表示频繁依赖。英国Ofcom的报告也显示，半数8至15岁在线青少年在过去一年中使用过AI工具。 随着应用普及，家长、学校及儿童权利组织的担忧持续升温。他们指出，此类工具可能催生性暗示聊天机器人、AI生成的儿童性虐待内容、网络欺凌、诱骗、勒索、虚假信息传播以及心理创伤等多重风险。 Meta近期因内部文件泄露事件陷入舆论风暴。文件披露其AI助手曾被允许与儿童进行浪漫互动，甚至针对8岁儿童制定“调情”策略，将其描述为“艺术品”或“珍宝”。尽管公司随后删除相关指南，但事件引发公众强烈质疑。 NAAG对此表示“极度厌恶”，并警告称问题并非仅限于一家企业。该组织还援引谷歌与Character.ai的诉讼案例，指称性感聊天机器人导致一名青少年自杀，并诱导另一名青少年杀害父母。 田纳西州总检察长乔纳森·斯克梅蒂作为联署代表之一指出：“算法出错是一回事——可以修复——但公司经营者制定明确授权诱骗行为的指导方针又是另一回事。如果我们不能引导创新远离伤害儿童，那就不是进步，而是一场瘟疫。” 目前，解密已联系信中提及的所有公司，但尚未获得任何回复。此次行动标志着美国在人工智能治理领域迈出了重要一步，预示着未来可能迎来更严格的行业规范与法律责任界定。