 如何以 1M 参数颠覆时间序列预测？)
NeurIPS 24 突破性研究Tiny Time Mixer (TTM) 如何以 1M 参数颠覆时间序列预测【免费下载链接】ttm-research-r2项目地址: https://ai.gitcode.com/hf_mirrors/ibm-research/ttm-research-r2Tiny Time Mixer (TTM) 是由 IBM Research 开源的紧凑型预训练模型专为多变量时间序列预测设计。作为 NeurIPS 24 收录的创新研究TTM 首次提出微型预训练时间序列预测模型概念以仅 1M 参数的轻量级架构在零样本和少样本预测任务中超越众多数十亿参数的基准模型彻底改变了时间序列预测领域对模型规模的认知。 为什么 TTM 是时间序列预测的革命性突破传统时间序列预测模型往往陷入越大越好的误区动辄需要数十亿参数和海量计算资源。而 TTM 采用聚焦型预训练策略每个模型专门针对特定预测场景由上下文长度和预测长度决定优化在保持超高预测精度的同时将模型体积压缩到前所未有的 1M 参数级别。图Tiny Time Mixer 模型架构展示了其零样本Zero-shot和少样本Few-shot预测能力通过时钟隐喻直观呈现时间序列预测的核心价值这种设计带来三大核心优势极致轻量化1M 参数规模普通笔记本电脑即可运行闪电般速度CPU 推理时间低至 10⁻² 秒级比同类模型快 40%-32%卓越泛化性零样本场景下超越 GPT4TS、TimesFM 等大模型 TTM 性能表现用数据说话IBM 研究团队在多个公开数据集上的 benchmark 测试显示TTM 在模型大小、推理速度和预测精度三个维度均实现了突破性平衡图TTM 与 Chronos、Moirai、GPT4TS 等主流模型的性能对比绿点TTM-B在 1M 参数下实现了最优的精度-速度平衡关键性能指标参数效率仅 1M 参数比 TimesFM (200M) 小 200 倍比 Chronos (201M) 小 201 倍速度提升CPU 单次推理时间 0.01 秒比 Lag-Llama (2.4M 参数) 快 3700 倍精度优势零样本预测精度超过 TimesFM 15%超过 Moirai 6%超过 Chronos 32%️ TTM 核心功能与使用场景TTM 目前支持两种主要预测模式满足不同业务需求零样本预测Zeroshot Forecasting无需任何目标数据训练直接应用预训练模型生成预测结果。特别适合快速原型验证和数据稀缺场景。少样本微调Few-shot Finetuning仅需 5% 的目标数据即可完成模型微调显著提升预测精度。由于模型超轻量整个微调过程可在普通 GPU 甚至 CPU 上几分钟内完成。适用分辨率 当前开源版本支持分钟级至小时级时间序列数据如 10 分钟、15 分钟、1 小时采样间隔完美匹配能源消耗监测、交通流量预测、服务器负载预警等实时性要求高的场景。 如何获取和使用 TTM 模型TTM 提供多种预训练模型版本覆盖不同上下文长度和预测长度组合模型分支名称上下文长度预测长度适用场景main51296中等周期预测1024-96-ft-r2102496长周期预测512-720-ft-r2512720超长期预测快速开始指南克隆仓库git clone https://gitcode.com/hf_mirrors/ibm-research/ttm-research-r2加载模型以 512-96 版本为例model TinyTimeMixerForPrediction.from_pretrained( ibm/TTM, revisionmain )零样本预测zeroshot_trainer Trainer(modelmodel, argszeroshot_forecast_args) zeroshot_output zeroshot_trainer.evaluate(dset_test)少样本微调# 冻结主干网络 for param in model.backbone.parameters(): param.requires_grad False # 微调训练 finetune_trainer Trainer(modelmodel, argsfinetune_args, train_datasetdset_train) finetune_trainer.train() 技术细节与资源TTM 的核心创新在于其通道混合解码器设计能够有效捕捉多变量时间序列中的交叉相关性这是现有许多模型所缺乏的关键能力。同时支持外生变量和分类数据融合进一步提升预测准确性。模型源码项目包含完整的训练和推理代码预处理工具提供时间序列标准化工具 TSP基准测试脚本research-use-r2.sh学术论文Tiny Time Mixers (TTMs): Fast Pre-trained Models for Enhanced Zero/Few-Shot Forecasting of Multivariate Time Series 总结TTM 如何改变时间序列预测格局Tiny Time Mixer 以小而美的设计理念证明了通过精心架构设计而非盲目增加参数量同样可以实现顶尖的时间序列预测性能。其 1M 参数规模、亚秒级推理速度和卓越精度的独特组合使原本需要高端计算资源的时间序列预测任务变得触手可及特别适合资源受限环境和边缘计算场景。无论是科研人员探索时间序列预测的新可能性还是企业用户寻求经济高效的预测解决方案TTM 都提供了一个前所未有的强大工具。随着 NeurIPS 24 的正式发布我们有理由相信 TTM 将成为时间序列预测领域的新基准。 引用信息如果您在研究中使用 TTM 模型请引用以下论文inproceedings{ekambaram2024tinytimemixersttms, title{Tiny Time Mixers (TTMs): Fast Pre-trained Models for Enhanced Zero/Few-Shot Forecasting of Multivariate Time Series}, author{Vijay Ekambaram and Arindam Jati and Pankaj Dayama and Sumanta Mukherjee and Nam H. Nguyen and Wesley M. Gifford and Chandra Reddy and Jayant Kalagnanam}, booktitle{Advances in Neural Information Processing Systems (NeurIPS 2024)}, year{2024}, }【免费下载链接】ttm-research-r2项目地址: https://ai.gitcode.com/hf_mirrors/ibm-research/ttm-research-r2创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
长河君 · 2026/8/6 21:16:41 · 阅读 1.2k NeurIPS 24 突破性研究：Tiny Time Mixer (TTM) 如何以 1M 参数颠覆时间序列预测？
NeurIPS 24 突破性研究Tiny Time Mixer (TTM) 如何以 1M 参数颠覆时间序列预测【免费下载链接】ttm-research-r2项目地址: https://ai.gitcode.com/hf_mirrors/ibm-research/ttm-research-r2Tiny Time Mixer (TTM) 是由 IBM Research 开源的紧凑型预训练模型专为多变量时间序列预测设计。作为 NeurIPS 24 收录的创新研究TTM 首次提出微型预训练时间序列预测模型概念以仅 1M 参数的轻量级架构在零样本和少样本预测任务中超越众多数十亿参数的基准模型彻底改变了时间序列预测领域对模型规模的认知。 为什么 TTM 是时间序列预测的革命性突破传统时间序列预测模型往往陷入越大越好的误区动辄需要数十亿参数和海量计算资源。而 TTM 采用聚焦型预训练策略每个模型专门针对特定预测场景由上下文长度和预测长度决定优化在保持超高预测精度的同时将模型体积压缩到前所未有的 1M 参数级别。图Tiny Time Mixer 模型架构展示了其零样本Zero-shot和少样本Few-shot预测能力通过时钟隐喻直观呈现时间序列预测的核心价值这种设计带来三大核心优势极致轻量化1M 参数规模普通笔记本电脑即可运行闪电般速度CPU 推理时间低至 10⁻² 秒级比同类模型快 40%-32%卓越泛化性零样本场景下超越 GPT4TS、TimesFM 等大模型 TTM 性能表现用数据说话IBM 研究团队在多个公开数据集上的 benchmark 测试显示TTM 在模型大小、推理速度和预测精度三个维度均实现了突破性平衡图TTM 与 Chronos、Moirai、GPT4TS 等主流模型的性能对比绿点TTM-B在 1M 参数下实现了最优的精度-速度平衡关键性能指标参数效率仅 1M 参数比 TimesFM (200M) 小 200 倍比 Chronos (201M) 小 201 倍速度提升CPU 单次推理时间 0.01 秒比 Lag-Llama (2.4M 参数) 快 3700 倍精度优势零样本预测精度超过 TimesFM 15%超过 Moirai 6%超过 Chronos 32%️ TTM 核心功能与使用场景TTM 目前支持两种主要预测模式满足不同业务需求零样本预测Zeroshot Forecasting无需任何目标数据训练直接应用预训练模型生成预测结果。特别适合快速原型验证和数据稀缺场景。少样本微调Few-shot Finetuning仅需 5% 的目标数据即可完成模型微调显著提升预测精度。由于模型超轻量整个微调过程可在普通 GPU 甚至 CPU 上几分钟内完成。适用分辨率 当前开源版本支持分钟级至小时级时间序列数据如 10 分钟、15 分钟、1 小时采样间隔完美匹配能源消耗监测、交通流量预测、服务器负载预警等实时性要求高的场景。 如何获取和使用 TTM 模型TTM 提供多种预训练模型版本覆盖不同上下文长度和预测长度组合模型分支名称上下文长度预测长度适用场景main51296中等周期预测1024-96-ft-r2102496长周期预测512-720-ft-r2512720超长期预测快速开始指南克隆仓库git clone https://gitcode.com/hf_mirrors/ibm-research/ttm-research-r2加载模型以 512-96 版本为例model TinyTimeMixerForPrediction.from_pretrained( ibm/TTM, revisionmain )零样本预测zeroshot_trainer Trainer(modelmodel, argszeroshot_forecast_args) zeroshot_output zeroshot_trainer.evaluate(dset_test)少样本微调# 冻结主干网络 for param in model.backbone.parameters(): param.requires_grad False # 微调训练 finetune_trainer Trainer(modelmodel, argsfinetune_args, train_datasetdset_train) finetune_trainer.train() 技术细节与资源TTM 的核心创新在于其通道混合解码器设计能够有效捕捉多变量时间序列中的交叉相关性这是现有许多模型所缺乏的关键能力。同时支持外生变量和分类数据融合进一步提升预测准确性。模型源码项目包含完整的训练和推理代码预处理工具提供时间序列标准化工具 TSP基准测试脚本research-use-r2.sh学术论文Tiny Time Mixers (TTMs): Fast Pre-trained Models for Enhanced Zero/Few-Shot Forecasting of Multivariate Time Series 总结TTM 如何改变时间序列预测格局Tiny Time Mixer 以小而美的设计理念证明了通过精心架构设计而非盲目增加参数量同样可以实现顶尖的时间序列预测性能。其 1M 参数规模、亚秒级推理速度和卓越精度的独特组合使原本需要高端计算资源的时间序列预测任务变得触手可及特别适合资源受限环境和边缘计算场景。无论是科研人员探索时间序列预测的新可能性还是企业用户寻求经济高效的预测解决方案TTM 都提供了一个前所未有的强大工具。随着 NeurIPS 24 的正式发布我们有理由相信 TTM 将成为时间序列预测领域的新基准。 引用信息如果您在研究中使用 TTM 模型请引用以下论文inproceedings{ekambaram2024tinytimemixersttms, title{Tiny Time Mixers (TTMs): Fast Pre-trained Models for Enhanced Zero/Few-Shot Forecasting of Multivariate Time Series}, author{Vijay Ekambaram and Arindam Jati and Pankaj Dayama and Sumanta Mukherjee and Nam H. Nguyen and Wesley M. Gifford and Chandra Reddy and Jayant Kalagnanam}, booktitle{Advances in Neural Information Processing Systems (NeurIPS 2024)}, year{2024}, }【免费下载链接】ttm-research-r2项目地址: https://ai.gitcode.com/hf_mirrors/ibm-research/ttm-research-r2创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考