专治AI大模型对错误答案“过于自信”,麻省理工

2024-07-31 23:13:10

  麻省理工学院和 MIT-IBM Watson AI Lab 的研究人员提出了一种专为大型语言模型量身定制的校准方法。他们的方法被称为“温度计”,其原理是在大语言模型之上构建一个

  据悉,这种被叫作“温度计”的方法通过针对各种任务对大语言模型进行高效校准,“温度计”可以帮助用户找出模型有关论文的第一借助“温度计”,研究人员开发出了一种多功能技术,利用一种被称为“温度缩放”的经典校准方法,为新任务有效地校准大语言模型。在此背景下,“温度”是一个缩放参数,用于调整模型的“信心”以与其预测准确性一致。

  研究人员训练了一个辅助模型,该模型在大型语言模型之上运行,自动预测校准新任务所需的“温度”。“温度计”只需要访问该团队希望未来使“温度计”支持更复杂的文本生成任务,并将该技术应用于更大的大型语言模型。

  参考

下一篇:小米门店排队进度可视功能上线,取号后无需在
上一篇:五菱星光 S 汽车预热:混插车型 NEDC 工况油耗
返回顶部小火箭