大模型时序预测新能力!华人团队激活LLM,实现SOTA

科技 2024-04-11 16:36 阅读:26

大模型时序预测新能力!华人团队激活LLM,实现SOTA

时序预测一直是决策制定中重要的工具,而现在,蒙纳士大学、蚂蚁、IBM研究院的团队提出了一种令人振奋的新方法,成功激活了大语言模型在处理时序数据方面的能力。这一通用框架不仅无需训练,还能实现高精度的时序预测,超越了传统模型的局限。

这个框架的核心是Time-LLM,通过将时序数据重编程为文本原型表示,并添加提示做前缀,使大语言模型能够更好地理解时序数据的语义信息,从而实现跨模态处理。这种创新的方法不仅提高了模型的性能,还释放了大型语言模型在时序数据挖掘中的潜力。

具体来说,Time-LLM首先对时序数据进行RevIN归一化操作,然后将其切分成不同的patch并映射到隐空间。通过线性组合获取文本原型,再结合提示做前缀的范式,有效激活了LLM在时序任务上的处理能力。这种方法在长程预测和zero-shot场景中都表现出色。

团队在8大公开数据集上进行了全面测试,结果显示Time-LLM在基准比较中明显优于其他模型,展现了其有效性和强大的预测能力。这一项目得到了蚂蚁集团智能引擎事业部旗下AI创新研发部门NextEvo的支持。

通过这一研究,我们看到了大模型在时序预测领域的巨大潜力,未来或许会彻底改变时序数据挖掘的方式。让我们拭目以待,看大模型如何在时序预测中展现出更多的可能性!