当前位置:   article > 正文

全面超越Transformer!清华蚂蚁推出纯MLP架构,长短程时序预测大幅提升

全面超越transformer!清华蚂蚁推出纯mlp架构,长短程时序
蔚明 投稿自 凹非寺
量子位 | 公众号 QbitAI

Transformer很强,Transformer很好,但Transformer在处理时序数据时存在一定的局限性。

如计算复杂度高、对长序列数据处理不够高效等问题。

而在数据驱动的时代,时序预测成为许多领域中不可或缺的一部分。

于是乎,蚂蚁同清华联合推出一种纯MLP架构的模型TimeMixer,在时序预测上的性能和效能两方面全面超越了Transformer模型。

604838005be9fcaa96cf15132fce0473.png

他们结合对时序趋势周期特性的分解以及多尺度混合的设计模式,不仅在长短程预测性能上大幅提升,而且基于纯MLP架构实现了接近于线性模型的极高效率。

来康康是如何做到的?

纯MLP架构超越Transformer

TimeMixer模型采用了一个多尺度混合架构,旨在解决时间序列预测中的复杂时间变化问题。

该模型主要采用全MLP(多层感知机)架构,由过去可分解混合Past Decomposable Mixing (PDM) 和未来多预测器混合Future Multipredictor Mixing (FMM) 两大块构成,能够有效利用多尺度序列信息。

4963f4ca57aa9c02fd7a12f2270cb24e.png

其中PDM模块,负责提取过去的信息并将不同尺度上的季节性和趋势组分分别混合。

b20fa25d8a5d87a48a9ac9518fc32f20.png
PDM以季节和趋势混合为动力,将详细的季节信息由细到粗逐步聚合,并利用较粗尺度的先验知识深入挖掘宏观趋势信息,最终实现过去信息提取中的多尺度混合。

85c685324158fb49c4444fb9dcf04d1e.png

FMM则是多个预测器的集合,其中不同的预测器基于不同尺度的过去信息,使 FMM 能够集成混合多尺度序列的互补预测功能。

fc8777d91508c744e9b96b9e905449f6.png

实验效果

为了验证TimeMixer的性能,团队在包含长程预测,短程预测,多元时序预测以及具有时空图结构的18组基准数据集上进行了实验,包括电力负荷预测、气象数据预测和股票价格预测等。

实验结果表明,TimeMixer在多个指标上全面超越了当前最先进的Transformer模型,具体表现如下:

预测精度:在所有测试的数据集上,TimeMixer均表现出更高的预测精度。以电力负荷预测为例,TimeMixer相比于Transformer模型,平均绝对误差(MAE)降低了约15%,均方根误差(RMSE)降低了约12%。

计算效率:得益于MLP结构的高效计算特性,TimeMixer在训练时间和推理时间上均显著优于Transformer模型。实验数据显示,在相同硬件条件下,TimeMixer的训练时间减少了约30%,推理时间减少了约25%。

模型可解释性:通过引入Past Decomposable Mixing和Future Multipredictor Mixing技术,TimeMixer能够更好地解释不同时间尺度上的信息贡献,使得模型的决策过程更加透明和易于理解。

泛化能力:在多个不同类型的数据集上进行测试,TimeMixer均表现出良好的泛化能力,能够适应不同的数据分布和特征。这表明TimeMixer在实际应用中具有广泛的适用性。

长程预测:为了确保模型比较的公平性,使用标准化参数进行实验,调整输入长度、批量大小和训练周期。此外,鉴于各种研究的结果通常源于超参数优化,该研究还包括了综合参数搜索的结果。

9b22469c4d3874c299972212882f44b4.png

短程预测:多变量数据

86970de8d6934e0c386548c314b3de16.png

短程预测:单变量数据

ae319ef8e9f9530fdd306bb1d884f271.png

消融实验:为了验证 TimeMixer 每个组件的有效性,我们在所有 18 个实验基准上对 Past-Decomposable-Mishing 和 Future-Multipredictor-Mishing 模块中的每种可能的设计进行了详细的消融研究。

6be62a869aa84f7744ece86dcd33dab9.png

模型效率:团队将训练阶段的运行内存和时间与最新最先进的模型进行比较,其中 TimeMixer 在 GPU 内存和运行时间方面,对于各种系列长度(范围从 192 到 3072)始终表现出良好的效率),此外还具有长期和短期预测任务一致的最先进性能。

值得注意的是,TimeMixer 作为深度模型,在效率方面表现出接近全线性模型的结果。这使得 TimeMixer 在各种需要高模型效率的场景中大有前途。

5dd01e2201b727ef536ce935296ca84b.png

好了,TimeMixer为时序预测领域带来了新的思路,也展示了纯MLP结构在复杂任务中的潜力。

未来,随着更多优化技术和应用场景的引入,相信TimeMixer将进一步推动时序预测技术的发展,为各行业带来更大的价值。

本项目获得了蚂蚁集团智能引擎事业部旗下AI创新研发部门NextEvo支持。

蚂蚁集团NextEvo-优化智能团队负责蚂蚁运筹优化、时序预测以及预测优化相结合的智能决策等技术方向,团队工作涵盖算法技术、平台服务和解决方案的研发。

论文地址:
https://arxiv.org/abs/2405.14616v1
论文代码:
https://github.com/kwuking/TimeMixer

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/盐析白兔/article/detail/727178
推荐阅读
相关标签
  

闽ICP备14008679号