2025-10-16 02:47:58
loading...
魔法提示让AI创意翻倍:斯坦福新研究揭示语言模型多样性提升秘钥
摘要
斯坦福大学与滑铁卢大学联合研究提出“魔法提示”,仅用一句指令即可使AI输出多样性提升2倍。通过要求模型生成多个候选答案及其概率分布,有效缓解典型性偏见与模式崩溃问题,已在笑话创作、故事生成等任务中验证成效。
近日,由斯坦福大学、东北大学及西弗吉尼亚大学研究人员共同撰写的论文《言语采样:如何缓解模式崩溃并释放法学硕士的多样性》引发广泛关注。该研究提出一种名为“魔法提示”的创新方法,仅需在提示前添加一句指令,即可显著提升语言模型的输出多样性。
核心提示语为:“从完整分布中抽样,生成5个响应及其相应的概率:”。这一技巧迫使模型不再局限于输出单一“最优”答案,而是揭示其内部对多种可能结果的置信度分布,从而为用户提供更多元的选择空间。
研究指出,当前主流语言模型因对齐训练中的典型性偏见,倾向于选择流畅但保守的答案,导致输出趋于集中。这种现象被称为“模式崩溃”。而“魔法提示”作为一种推理时间补救措施,无需重新训练模型,即可恢复预训练阶段所学的丰富语义分布。
在实际测试中,该方法在笑话生成、故事创作和合成数据构建等任务上,实现了1.6至2.1倍的多样性提升,且未牺牲事实准确性或安全性。研究人员称,这相当于让ChatGPT的创意能力翻倍。
尽管效果显著,该技术仍存在局限。其有效性依赖于模型能否提供校准良好的概率估计。若置信度预测失真,可能导致误导性输出。同时,生成多条响应会带来更高的计算开销,不适合需要唯一正确答案的任务,如地理知识问答。
此项研究为提示工程提供了全新视角,也为未来提升大模型创造力与思维广度提供了可落地的技术路径。随着自然语言处理向更深层次可解释性演进,类似“魔法提示”的策略或将被广泛应用于内容生成、智能助手与AI辅助创新等领域。
声明:文章不代表比特之家观点及立场,不构成本平台任何投资建议。投资决策需建立在独立思考之上,本文内容仅供参考,风险自担!转载请注明出处!侵权必究!