研究提出新型时间序列预测框架

中国科学院
154次浏览

近期,中国科学院软件研究所研究团队为提升大语言模型时间序列预测性能,提出了向量注入式上下文学习框架。该框架能够稳定提升时间序列预测性能,并可以降低计算开销。I55速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

大语言模型进行时间序列预测时面临一项主要挑战——预训练文本与时间序列数据在分布与结构上存在差异。传统方法采用全量微调来减少这种差异,但其训练成本高、显存占用大,限制了实际应用。I55速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

研究团队提出引入上下文学习的方法LVICL。该方法通过在输入提示中引入任务示例,使模型无需更新参数即可实现“类似微调”的效果。为提升上下文学习对示例选择与顺序敏感的不稳定问题,该方法提取示例的向量表示,并以置换不变的方法进行聚合,从而消除顺序敏感性;采用轻量适配器对聚合后的上下文向量进行精练,抑制其中可能干扰预测的分量,增强对示例选择的鲁棒性;将优化后的向量注入到大语言模型各层的残差流中,以可控方式引导模型进行预测。I55速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

研究团队在多个时间序列预测基准数据集上对LVICL进行系统评估。实验表明,LVICL在保持大语言模型完全冻结、训练开销降低的前提下,能够稳定复现并进一步放大上下文学习带来的收益。与轻量微调方法相比,LVICL在多种数据集与实验设置下均表现出更强的预测能力,并在效率与性能的平衡上展现出更好的实用性。I55速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

相关论文被互联网领域顶级国际学术会议The Web Conference 2026(WWW-26)录用。I55速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

论文链接I55速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

I55速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

LVICL总体框架I55速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

本文链接:http://m.sushuapos.com/show-12-2556-0.html研究提出新型时间序列预测框架

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

热门文章

延伸阅读

相关阅读

南财对话|全国政协委员连玉明:打造数据要素“三级市场”,加快构建数据资产核算和入表制度
21世纪经济报道 记者郑雪 张雅婷 北京、广州报道“只有政府‘看得见的手’与市场‘看不见的手’形成合力并实现平衡,才能稳妥、有效地促进数据要素市场持续健康发展。”2024年全国两
东风公司王建清两会建议:创新企业用工机制
2024年全国两会期间,东风公司全国人大代表王建清带来4项与汽车产业相关建议,包括《关于创新用工机制 吸引高技能人才稳岗建功的建议》《关于推动新能源汽车产业高质量发展 加快把湖北建成中部地区崛起重要战略支点
3月19日全球首发 奥迪Q6 e-tron最新信息
近日,从官方渠道获悉,奥迪Q6 e-tron将于3月19日迎来全球首发,新车基于PPE平台打造,可以看做是保时捷Macan EV的“小兄弟”。此外,根据此前的消息,位于吉林省长春市的奥迪PPE高端电动汽车工厂将在2024年底竣工,该工厂将生
东风风行:豪华新能源MPV定名风行星海V9
近日,从官方获悉,东风风行豪华新能源MPV定名风行星海V9,将于4月开启预售。此前,该车在2023慕尼黑车展亮相,动力上搭载了1.5T发动机和电动机组成的混动系统。官方表示,风行星海V9将瞄准20-30万中高端MPV市场,以宜家宜商全
高合汽车回应被FF起诉:不存在任何抄袭
  高合汽车回应被FF起诉:不存在任何抄袭  3月5日,在法拉第未来(FFIE.US)(以下简称FF)宣布起诉高合汽车之后,高合汽车发布声明称,公司及公司创始人丁磊不存在任何抄袭和侵犯FF公司商业秘密、知识产权的行为,也不存在不
快要露真容了 曝阿尔卑斯首款SUV假想图
3月8日,有国内媒体曝光了一张蔚来第二品牌“阿尔卑斯”首款SUV的假想图,并附文:“今天给阿尔卑斯1的研发高层看了这张图,回复是「真像」,好了,外观就是这个样子,大差不差了,就等前脸了,我觉得侧后还是不错的。”根据此前官

热点精选

最新推荐

您可能感兴趣