美国FTC强制七家科技巨头披露AI儿童保护措施

美国联邦贸易委员会（FTC）周四对七家大型科技公司发出强制命令，要求其提供有关人工智能聊天机器人如何保护儿童和青少年免受潜在伤害的详细信息。此次调查对象包括 OpenAI、Alphabet、Meta、xAI、Snap、Character Technologies 和 Instagram。 根据文件要求，这些公司需在45天内提交数据，涵盖用户参与度、收入来源、安全事件以及按年龄分组的使用情况——包括儿童（13岁以下）、青少年（13-17岁）、未成年人（18岁以下）、年轻人（18-24岁）及25岁以上群体。 调查重点在于：公司如何将用户参与度货币化；如何施加和执行基于年龄的限制；如何处理用户输入与生成输出；在部署前后如何衡量、测试并监控负面影响；以及角色开发与审批流程，无论由企业还是用户创建。 这一行动源于近期倡导团体发布的一项研究，该研究在短短50小时内测试中记录了669起与未成年人的有害互动，其中包括向12至15岁用户推荐性直播、吸毒行为及恋爱关系建议。 FTC主席安德鲁·弗格森强调：“保护儿童上网是特朗普-万斯联邦贸易委员会的首要任务，促进我们经济关键领域的创新也是如此。” H2 构建人工智能护栏 SearchUnify人工智能主管Taranjeet Singh表示，虽然设立防护机制是积极举措，但挑战远不止于设置“护栏”。他指出，第一种方法是在生成初期或后期添加过滤层，防止不适当内容流向儿童，但“随着环境变化，人工智能容易偏离指令，进入灰色地带”。 第二种策略则在于模型训练阶段的价值对齐。如果在数据管理过程中确保模型与社会价值观一致，其生成内容更可能避免有害对话。 辛格认为，即使在严格监管下，人工智能仍可在教育等领域发挥积极作用，例如提升学习效率并降低教育成本。 H2 AI互动安全事件频发引关注 此类安全问题已在多起案件中凸显。2024年2月，14岁少年Sewell Setzer III因与Character.AI的虚拟角色产生极端情感依赖而自杀，引发针对该公司的非正常死亡诉讼。 事件后，Character.AI宣布改进对违规输入的检测、响应与干预机制，并增加时间消耗提示功能。 此外，上个月全国总检察长协会已致信13家AI公司，敦促加强儿童保护。该组织警告称：“让儿童接触色情内容是不可原谅的，无论行为由人类还是机器实施，均不应被豁免。” 目前，解密已联系所有七家公司寻求进一步回应，后续将更新报道进展。