研究文章

一种用于长期网络流量预测的量子-经典混合模型

DOI：

10.3791/68229

⸱

2025年6月27日

 ,  ,  ,  ,  ,  , 
1China Mobile Research Institute, 2TuringQ Co., Ltd.

本文内容

摘要

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

QTSMixer 是一种混合量子-经典模型，通过解决 TSMixer 在周期性信号和长期预测方面的局限性，提升了网络流量预测性能。该模型引入了由可训练参数控制的量子神经网络组件，在真实数据的长期预测中，其表现优于 TSMixer 达 6.72%。

摘要

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

网络流量预测是时间序列分析的一项关键应用，对于网络管理与优化至关重要。传统的统计模型和机器学习方法已被用于网络流量预测，其中多层感知混合架构（特别是TSMixer）的最新进展已达到最先进的性能水平。然而，TSMixer在处理周期性信号和长期预测方面仍面临挑战。为解决这些局限性，我们提出了一种量子TSMixer（QTSMixer）模型，这是一种混合型量子-经典方法，利用量子神经网络增强与周期性信号及长期依赖关系相关的特征提取能力。通过引入可训练参数以调控量子组件的作用强度，构建出多层感知器与量子神经网络相结合的混合结构。通过对真实数据集的实证分析，验证了QTSMixer在跨领域应用中的潜力及其实际应用能力，在长期网络流量预测数据集中，QTSMixer的性能优于TSMixer达6.72%。未来，QTSMixer的发展可进一步拓展至其他领域，如金融市场分析和天气预测。

引言

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

网络流量预测（Network Traffic Prediction, NTP）1,2,3作为时间序列分析的重要应用4,5，涉及对历史网络流量数据的分析，以识别其中的模式与趋势，从而预测未来的流量变化。该技术对网络管理与优化至关重要，可协助网络运营商进行资源分配、故障诊断、安全监控以及服务质量保障。NTP问题已被统计模型和机器学习方法广泛研究3。近年来，基于多层感知机混合器（Multi-Layer Perception Mixer, MLP-Mixer）6,7的架构因其强大的捕捉多变量时间序列依赖关系的能力，在NTP任务中日益流行。其中，TSMixer8因其卓越的运行速度和轻量级设计脱颖而出，并在多个基准数据集上达到了最先进的（State-Of-The-Art, SOTA）性能水平9。TSMixer通过时间维度与特征维度的混合操作，能够更有效地捕捉时间依赖性以及特征间的相关性。然而，TSMixer存在以下两个缺点。第一，它不适用于处理周期性信号。周期性信号具有稳定性强、抗干扰能力强且易于分析的特点，在通信、电力系统和控制系统中具有重要价值。由于TSMixer基于多层感知机（MLP），而MLP的数学原型为非周期函数，因此TSMixer适合处理非周期信号，但在处理周期性信号时表现不佳。第二，TSMixer在进行长期预测时性能较差，受限于当前计算机内存容量以及预测过程中误差的累积。目前大多数模型在处理长期时间序列预测任务时表现均不理想，这是时间序列预测领域亟待解决的关键问题。尽管TSMixer已取得良好效果，但仍存在改进空间。因此，探索新的策略以克服上述缺陷具有重要意义。

量子计算10是一种基于量子力学规律的新型计算范式，能够高效且安全地处理海量数据。量子神经网络（QNNs）11,12,13是一类结合了量子计算与经典神经网络的计算模型，在图像处理、语音识别和疾病预测等领域具有广泛应用。QNN利用量子计算的叠加性和纠缠性等特性来处理信息并执行机器学习任务，从而在模拟效果、计算速度或网络性能方面实现更优表现甚至量子优势。近年来，一些研究已探索将QNN应用于时间序列预测14,15,16,17,18,19。量子时间序列模型在预测精度和计算效率方面可超越传统模型，尤其是在处理复杂的多维数据时表现更为突出。一方面，QNN可被表示为傅里叶级数形式，具有周期性，适用于周期性信号的处理；另一方面，QNN在时间序列任务中已有若干成功应用。因此，探索QNN在NTP（时间序列预测）中的作用，特别是长期时间序列预测，具有重要意义。

访问受限。请登录或开始试用以查看此内容。

方案

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

QTSMixer 方法

设 线性代数中集合表示法的数学表达式，X_sl×c ∈ ℝ^sl×c。 为长度为 sl、通道数为 c 的多变量时间序列。多变量预测任务定义为：给定历史数据 矩阵表示法，方程 Y_flxc ∈ ℝ_flxc，线性代数研究中的数学表达式。，通过预测模型 矩阵代数方程，X slxc，静态平衡，示意图，教育用数学概念。 来预测未来值 静态平衡示意图；ΣFx=0，MA=0；教育用物理概念；力学分析。，该任务可表述为

研究分析中用于数据建模的数学函数方程示意图。

其中 DNA→RNA 转录示意图；基因编辑过程；公式：fl≤sl；教育用生物学图表。 为预测序列长度，回归分析方程中带帽子符号的统计符号 Ŷflxc。 表示预测值。在 QTSMixer 中，设 XL×C 表示长度为 L、通道数为 c 的原始多变量时间序列。我们以小批量方式输入多变量时间序列 数学公式，张量维度表示法 X_B ∈ ℝ^b×sl×c，用于线性代数研究。，其中 sl ≤ L，b 为批量大小。如图 1所示，QTSMixer 模型包含四个组成部分：归一化、块嵌入、混合层和预测。在训练阶段，模型的损失通过均方误差（MSE）损失函数 静态平衡；示意图；ΣFx=0；设备；受力平衡分析；实验装置。 计算，以实现最佳拟合。QTSMixer 可被描述为

优化公式，argmin，损失函数，数学符号，方程图示。

其中 θ 为可训练参数向量，通过随机梯度下降法进行更新。

使用神经网络的时间序列预测示意图；包含块嵌入、混合层、MLP、QNN。
图 1：QTSMixer 的高层架构。 此处我们将 QTSMixer 分为四个部分：归一化、块嵌入、混合层和预测。请点击此处查看该图的放大版本。

接下来，我们将详细介绍QTSMixer的模型组件。

归一化

QTSMixer 的前向传播过程首先接收输入的时间序列数据 张量符号 \( X^B_{b \times s \times l \times c} \)；概念性数学示意图。。首先，输入数据通过 PatchTSMixer StandardScaler8 或其他缩放器进行归一化和标准化，以消除特征之间的量纲差异，并确保训练过程中数据表现的稳定性。

图像块嵌入

首先，通过分块模块将标准化的时间序列数据划分为多个固定长度的片段（块）。该模型设计灵感来源于 Ekambaram 等人8，通过分块划分可提升捕捉局部特征的能力。通过分块处理，QTSMixer 能够有效应对复杂的时间序列数据模式，减少模型输入的 token 数量，并在更短的训练时间内取得更优的结果。小批量 数学符号，\(X^B_{b \times s \times l \times c}\)，表示张量维度。 被重塑为 矩阵表示法，元素属于实数 R 的 b x n x p1 x c 维度，数学公式。，其中 n 表示块的数量，pl 表示块的长度。设 s 表示分块的步长，则 静力平衡方程，n=|sl-pl|/s+1，公式，教育物理概念 。

为了增强模型的表达能力，每个图像块通过一个线性层被映射到更高维度的空间。随后，数据通过线性变换被重塑为张量变换公式，\(X^P_{b\times n\times hf\times c}\)，数据处理分析。，其中线性变换表示为数学变换方程示意图，映射函数 R^pl 到 R^hf。，hf 表示隐藏特征的数量。权重矩阵的维度为 pl × hf。

混合层

在这一部分中，通过多个混合层对块、特征和通道维度进行混合。根据每个混合层中关注的维度，首先对输入进行相应的置换，以学习沿该关注维度的相关性。然后，通过层归一化、多层感知机（MLP）、量子神经网络（QNN）以及门控注意力（GA）机制提取信息，从而获取更全面的特征信息。

在块混合层中，输入首先被重塑为张量维度为 b×h×f×c×n 的数学表达式 X^P，用于数据分析图示。，其中我们重点关注块维度（即最后一个维度）；随后进行层归一化。接着，该模块采用一个共享的多层感知机（MLP）（权重维度为 n × n）来学习不同块之间的相关性。同时，量子神经网络（QNN）通过量子重加载技术20实现，以增强量子层的表达能力。QNN 中的量子电路共有 ql 层，第 i 层包含一个编码电路 Ux 和一个试探电路 量子电路图，量子门操作 U_θi，用于量子计算研究的示意图。，其中 θi 是可训练参数向量，i = 1, 2, ..., ql。在加权求和操作之后，模型构建出 MLP 与 QNN 的混合结构，针对块维度的第 i 个分量，其形式为 MLP 与 QNN 方程，神经网络符号，用于机器学习模型的构建。，从而有效融合经典与量子特征提取能力。需要注意的是，此处 αi 是一个初始值为 0 的可训练参数，用于表示引入量子行为的强度。最后，GA8 以概率方式放大主导特征并抑制次要特征。特征混合层与通道混合层的工作机制类似。

经过多层混合后，数据按 静态平衡概念，ΣFx=0，符号公式，教学示意图。 进行处理。

预测

在预测层中，数据首先被重塑为多项式表示法 \(X^P_{b \times c \times n \times h f}\)，数学表达式。。未来值通过经典的预测头8进行预测——编码后的特征被展平，并输入到一个带有 dropout 的经典线性层中，以生成对未来值的预测表示数学估计的方程，包含符号 Ŷ, b, f, l, x, c。。

实验结果

我们基于真实世界数据集（即长期网络流量预测数据集（LTNTF）21）以及另外三个流行的公开数据集进行了详细的实证分析。第一个实验基于LTNTF数据集21，该数据集提供了2017年1月1日至2019年2月20日期间，真实网络中城市A、B和C的每小时流量数据及节假日信息。实验任务是利用历史数据构建合适的模型，以预测每个城市未来95天的每小时流量值。该数据集的独特之处在于其真实性和长期性，提供了涵盖多个城市、超过800天的详细每小时网络流量数据。实验结果汇总于表1、图2和图3中。如需复现实验，请参阅补充文件1中Experiment_1_LTNFT目录下的README.md文件。

表1：QTSMixer与TSMixer在LTNTF数据集上的性能比较。 此处使用MAPE和RMSE作为主要评估指标，数值越低表示性能越好。请点击此处下载该表格。

比较预测模型与真实值的时间序列数据分析，显示天气模式。
图 2：TSMixer 与 QTSMixer 预测结果的比较。 本文从三个城市中随机选取了三个样本，展示了 TSMixer 与 QTSMixer 模型对真实值与预测值的可视化对比结果。请点击此处查看该图的放大版本。

显示1907、1878、1950号样本趋势预测值与真实值的时间序列分析图。
图3：TSMixer与QTSMixer在特例情况下的预测结果比较。此处选取了QTSMixer表现最优的样本。请点击此处查看该图的放大版本。

第二个实验基于 BasicTS+(Basic Time Series)22 框架，这是一个用于时间序列预测的基准库和工具箱。该框架支持多种任务和数据集，例如时空预测和长序列预测，涵盖统计模型、机器学习模型、深度学习模型以及其他算法。BasicTS+ 通过统一且标准化的流程，为流行深度学习模型的复现与比较提供了一个公平而全面的平台。BasicTS 基准包含七个经过精心筛选的多变量时间序列（MTS）数据集，覆盖多个真实世界领域，以实现对预测模型的严格评估。该数据集集合包括交通数据集（PEMS04/08，用于流量监测）、能源消耗记录（Electricity/Etth1/Ettm1）、经济指标（Exchange-Rate）以及环境监测数据（北京空气质量）。实验结果见表2。如需复现实验，请参阅补充文件1中 Experiment_2_Basicts 内的 README.md。

表2：QTSMixer 与其他模型在 BasicTS+ 框架下多个数据集上的性能比较。 此处使用 MAE、WAPE 和 RMSE 作为评估指标，数值越低表示性能越好。参数量相近的模型被归为一组。请点击此处下载该表格。

第三个实验涉及量子模拟器与真实量子计算机之间的比较分析。该实验通过评估Qiskit与DQ框架在实现QTSMixer方面的表现，对比了两种框架的性能。实验评估了这两个框架在预测任务中的准确性和执行效率。本实验使用了超导量子计算机ibm_brisbane。实验结果如图4和表3所示。如需复现实验，请参阅补充文件1中Experiment_3_Qiskit目录下的README.md文件。

实际值与预测值的时间序列折线图，展示模型性能随时间的比较。
图 4：Qiskit（在量子硬件上）与 DQ（在模拟器上）预测结果的比较。 实际值与预测值之间的比较，其中预测值来源于 Qiskit 和 DQ 实验。 请点击此处查看此图的放大版本。

表3：QTSMixer在量子硬件与模拟实验之间的性能比较。 此处采用平均绝对百分比误差（MAPE）和均方根误差（RMSE）作为主要评估指标，数值越低表示性能越好。请点击此处下载该表格。

访问受限。请登录或开始试用以查看此内容。

结果

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

我们对一些数据集进行了详细的实证分析。第一个实验基于LTNTF数据集。这三个城市表现出明显不同的数据分布模式：城市A在年初的交通流量出现显著低谷；城市B在同一时期保持相对较高的数值，而城市C则全年分布更为均衡，详见补充图 S1、补充图 S2和补充图 S3。实验结果汇总于表1中，其中量子电路模块由DeepQuantum（DQ）框架实现。模型预测结果经过反归一化处理，并采用平均绝对百分比误差（MAPE）和均方根误差（RMSE）作为主要评估指标。与经典模型相比，QTSMixer模型在测试集上表现出更强的泛化能力，性能优于TSMixer 6.72%。在图2和图3中，预测值与真实值的可视化对比进一步验证了该模型的鲁棒性与准确性。

访问受限。请登录或开始试用以查看此内容。

讨论

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

本文提出了一种用于长期网络时间预测（NTP）的QTSMixer方法，这是一种在准确性和跨域适应性方面均有提升的新型量子-经典混合方法。本研究不仅拓展了量子计算在时间序列预测中的应用潜力，也为未来在真实量子硬件上的部署指明了方向。然而，当前的量子-经典混合架构在处理外生变量时能力有限。未来的改进可引入通道混合模块，以增强跨变量信息提取能力，同时保持量子计算的高效性。

在此，基于QNN和MLP的QTSMixer模型在处理NTP问题时比TSMixer具有更高的预测精度。据我们所知，QTSMixer是首个用于长期NTP的量子-经典混合模型。

量子-经典混合架构：
QTSMixer 采用了一种量子-经典混合架构。在 QTSMixer 中，量子处理层被嵌入到传统的时间序列模型中。这些量子层在提取与周期性信号和数据中长期依赖关系相关的特征方面更具优势。

跨领域应用潜力：
QTSMixer 的设计不限于特...

访问受限。请登录或开始试用以查看此内容。

披露

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

作者声明不存在任何竞争性经济利益。

致谢

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

感谢池玉林、Gang Xi Wang、李新 Ying、Yi Xin 和王飞的深入讨论。

访问受限。请登录或开始试用以查看此内容。

材料

本文使用的材料清单
姓名公司目录编号评论
DeepQuantumTuringQ Co., Ltd.https://deepquantum.turingq.com/由 TuringQ 开发的用于量子机器学习和光学量子计算的高效编程框架。
QiskitIBMhttps://www.ibm.com/quantum/qiskit一个开源的软件开发工具包，用于在扩展量子电路、算子和基本操作层面与量子计算机进行交互。
ibm_brisbaneIBMhttps://quantum.ibm.com/IBM Quantum Eagle 系列中的超导量子计算机。
LTNTF 数据集中国移动https://jiutian.10086.cn/open/#/dataset/710012?platform=OpenInnovation该数据集来源于中国移动的九天人工智能平台。
python3.10Python 软件基金会https://www.python.org/downloads/release/python-3100/
量子重加载技术Pérez-Salinas, A., Cervera-Lierta, A., Gil-Fuster, E., Latorre, J. I. Data re-uploading for a universal quantum classifier. Quantum. 4 226 (2019)。https://doi.org/10.22331/q-2020-02-06-226
BasicTS+ 框架邵志远 等. 探索多元时间序列预测的进展：全面基准测试与异质性分析. IEEE Transactions on Knowledge and Data Engineering. 37 291-305 (2023)。arXiv:2310.06119v2
GPU A100NVIDIA80G GPU
TransformersHugging Facehttps://huggingface.co/机器学习社区协作开发模型、数据集和应用的平台。

参考文献

$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,
  1. Joshi, M., Theyazn, H. H. A review of network traffic analysis and prediction techniques. arXiv preprint. , (2015).
  2. Ferreira, G. O., Ravazzi, C., Dabbene, F., Calafiore, G. C., Fiore, M. Forecasting network traffic: A survey and tutorial with open-source comparative evaluation. IEEE Access. 11, 6018-6044 (2023).
  3. Weiwei, J. Cellular traffic prediction with machine learning: A survey. Expert Syst Appl. 201, 117163(2022).
  4. Wei, W. W. S. Multivariate time series analysis and applications. , John Wiley & Sons. (2019).
  5. Multivariate time series forecasting: A review. Mendis, K., Wickramasinghe, M., Marasinghe, P. CVIPPR 2024: 2024 2nd Asia Conference on Computer Vision, Image Processing and Pattern Recognition, , (2024).
  6. Zheng, Y., Dang, Z., Peng, C., Yang, C., Gao, X. Multi-view multi-label anomaly network traffic classification based on MLP-mixer neural network. arXiv preprint. , (2022).
  7. Tolstikhin, I. O., et al. MLP-mixer: An all-MLP architecture for vision. arXiv preprint. , (2021).
  8. Ekambaram, V., Jati, A., Nguyen, N., Sinthong, P., Kalagnanam, J. TSMixer: Lightweight MLP-Mixer Model for Multivariate Time Series Forecasting. arXiv. , (2023).
  9. Ekambaram, V., et al. Tiny time mixers (ttms): Fast pre-trained models for enhanced zero/few-shot forecasting of multivariate time series. arXiv preprint. ArXiv. , (2024).
  10. Nielsen, M. A., Chuang, I. L. Quantum computation and quantum information: 10th Anniversary Edition. , Cambridge: Cambridge University Press. (2010).
  11. Beer, K., et al. Training deep quantum neural networks. Nat Commun. 11 (1), 808(2020).
  12. Amira, A., et al. The power of quantum neural networks. Nat Comput Sci. 1, 403-409 (2020).
  13. Cong, I., Choi, S., Lukin, M. D. Quantum convolutional neural networks. Nat Phys. 15 (12), 1273-1278 (2019).
  14. Padha, A., Sahoo, A. Quantum deep neural networks for time series analysis. Quantum Inf Process. 23 (6), 205(2024).
  15. Evolving Hybrid Quantum-Classical GRU Architectures for Multivariate Time Series. De Falco, F., Lavagna, L., Ceschini, A., Rosato, A., Panella, M. 2024 IEEE 34th International Workshop on Machine Learning for Signal Processing (MLSP), , IEEE. 1-6 (2024).
  16. Hybrid quantum-classical recurrent neural networks for time series prediction. Ceschini, A., Rosato, A., Panella, M. in 2022 international joint conference on neural networks (IJCNN), , IEEE. 1-8 (2022).
  17. Huang, W., Zhang, J., Liang, S., Sun, H. Backbone network traffic prediction based on modified eemd and quantum neural network. Wirel Pers Commun. 99 (4), 1569-1588 (2018).
  18. Zhang, K., Liang, L., Huang, Y. A Network traffic prediction model based on quantum inspired PSO and neural network. 2013 Sixth International Symposium on Computational Intelligence and Design. 2, 219-222 (2013).
  19. Rivera-Ruiz, M. A., Mendez-Vazquez, A., López-Romero, J. M. Time series forecasting with quantum machine learning architectures. Advances in Computational Intelligence. , Springer Nature Switzerland. 66-82 (2022).
  20. Pérez-Salinas, A., Cervera-Lierta, A., Gil-Fuster, E., Latorre, J. I. Data re-uploading for a universal quantum classifier. Quantum. 4, 226(2020).
  21. Mobile, C. Long-term network traffic forecasting. , (2023).
  22. Shao, Z., et al. Exploring progress in multivariate time series forecasting: Comprehensive benchmarking and heterogeneity analysis. IEEE Transactions on Knowledge and Data Engineering. 37 (1), 291-305 (2023).
  23. Bharti, K., et al. Noisy intermediate-scale quantum algorithms. Rev Mod Phys. 94 (1), 015004(2022).

访问受限。请登录或开始试用以查看此内容。

重印与许可

申请许可以重复使用本 JoVE 文章的文本或图表

申请许可

标签

TSMixer
视频即将推出

相关文章