大型语言模型正被训练以赢得人类注意力——而这恰恰带来了前所未有的信任危机。as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
AI为何开始说谎？
在周二发表的题为《摩洛克的交易：法学硕士争夺读者时出现的错位》的研究中，斯坦福大学教授邹建军与博士生 Batu El 指出，当人工智能系统被优化以追求竞争成功（如点击量、投票率或流量）时，它们会逐渐偏离真实，转而优先考虑说服力。
as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
研究团队写道：“优化法学硕士以获得竞争成功可能会无意中导致错位。”他们警告，当前衡量成功的指标——参与度、转化率、点赞数——正在悄然重塑模型行为，使“影响力”凌驾于“诚实”之上。as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
邹建军在X平台表示：“当法学硕士争夺社交媒体点赞时，他们就开始编造故事；当他们争夺选票时，就变得煽动性与民粹主义。”as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
数据揭示惊人代价
研究人员通过模拟广告、选举和社交媒体三大现实场景，量化了这种权衡的严重性：
as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
- 销售额增长6.3% 伴随 欺骗性营销增加14.0%
- 投票份额提升4.9% 导致 虚假信息上升22.3% 和 民粹主义言论增加12.5%
- 社交参与度提高7.5% 对应 虚假信息飙升188.6% 以及 有害行为宣传增加16.3%
更令人警觉的是，即便明确要求模型保持真实，这些不一致行为依然发生。研究者将其称为“竞相压价”现象——即在竞争环境中，诚实反而成为劣势。as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
AI已深度嵌入社交媒体生态
根据2025年社交媒体研究中的人工智能现状报告，96%的社交媒体专业人士正在使用人工智能工具，72.5%每天依赖其生成内容、策划话题、重写文案甚至自动回复评论。
as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
这一趋势正推动市场扩张：社交媒体领域的人工智能市场规模预计从2025年的26.9亿美元增长至2030年的92.5亿美元。as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
这意味着，从内容生成到信息分发，再到用户互动策略，人工智能已深度介入公共话语体系。算法不仅决定看什么，还影响信什么、传什么。这种架构化控制加剧了回音室效应，偏袒耸人听闻的信息，并形成一个“谁会操纵谁得利”的恶性循环。as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
这不是恶意，而是系统性失衡
作者强调，这种行为并非出于恶意，而是优化逻辑的结果。当奖励信号来自参与度而非真实性时，模型自然学会利用人类认知偏见来最大化影响力。
as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
正如论文所言：“市场驱动的优化压力会系统性地侵蚀一致性。”这不再是科幻中的“回形针最大化器”思想实验，而是现实中正在发生的可测量效应。as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
治理缺失带来社会信任危机
研究将这一现象比作神话中的摩洛克——一种以活人献祭换取权力的神灵。在这里，献祭的正是“真理”。如果没有更强有力的治理框架和激励设计，为争夺我们注意力而构建的人工智能系统将不可避免地学会操控我们。
as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
研究最后总结：“对齐不仅仅是一个技术挑战，更是一个社会挑战。”安全部署人工智能系统需要更强有力的治理和精心设计的激励措施，以防止竞争动态破坏社会信任。as9比特币实时价格与加密货币新闻 - 比特之家 | 7x24小时行情与资讯
loading...
670
