MultiPathFormer：用Transformer预训练多径信道，迈向无线物理层基础模型

多径无线信道建模是 5G/6G 物理层算法绕不开的基石也是最耗时、最容易出现“换一个环境就失效”的环节。传统做法是每个场景单独建模型、标参数、做测量数据驱动方法出现后又要每个任务单独标数据、单独训练。整个研发链路被切成无数个“一次性工程”模型之间互不积累。MultiPathFormer 的选题正是冲着这个痛点去的它试图把多径无线传播本身当作一个可以预训练的事件去学习让一个模型在大量信道数据上学到通用的传播规律再用到不同的下游任务里。换句话说这篇文章不是介绍一个“更好用的信道预测网络”而是在讨论一个更本质的问题——无线物理层能不能拥有自己的基础模型。读这篇文章你可以带着三个问题来读多径传播的数据到底长什么样为什么它能支撑预训练MultiPathFormer 用 Transformer 建模多径结构上是如何设计的所谓“基础模型”在无线场景里预训练和微调链路应该怎么落地这类工作放在 6G 浪潮下尤其值得关注因为 AI 与无线通信的融合已经从“给某个模块加一个神经网络”演进到“用 AI 重新组织物理层研发流程”阶段。MultiPathFormer 恰好踩在范式转换的节点上。1. 先下一个判断MultiPathFormer 真正解决的问题是什么很多读者看到“用于多径无线传播的基础模型”这个描述第一反应是这不就是把 Transformer 拿来做信道预测吗Transformer 做时序预测已经不新鲜了。如果只看到这一层就低估了这个工作的意义。MultiPathFormer 不是在解决某一个具体的信道处理任务而是在尝试解决一个更上游的问题信道数据的高昂获取成本和模型复用率极低之间的矛盾。无线通信标准演进到 5G-Advanced 和 6G 之后物理层对信道信息的依赖越来越重。大规模 MIMO 需要准确的信道状态信息CSI去设计预编码。毫米波和太赫兹通信需要快速波束管理否则链路动辄就断。通感一体化需要从信道中同时提取通信和感知信息。这些任务共享同一个底层它们都需要理解“电磁波在当前环境里是怎么从发射机到接收机的”。但传统研发流程把这个共享底层拆散了信道估计做一套数据、波束管理做一套数据、定位做一套数据每个任务都有一套独立的数据采集和模型训练流程。一个项目换一个城市、换一个频段之前的积累基本作废。MultiPathFormer 试图回答的问题是能不能把“多径传播的规律”和“具体任务”解耦让一个模型先在大量信道数据上学会电磁波传播的一般规律然后下游任务只需要较小代价就能适配这个判断如果成立它改变的就不是信道估计算法的精度提升几个百分点而是整个无线 AI 模型的研发成本和通用性。它在架构层面的变化是解决无线信道跨场景、跨频段、跨任务迁移的关键。从结论上说MultiPathFormer 这类工作的价值不在于“Transformer 在物理层比 CNN 更强”这个细节而在于它开启了一种可以积累的建模方式预训练一次多个场景和任务复用。这才是值得读者花时间搞清楚的核心。2. 多径无线传播问题回顾为什么“局部优化”很难走通要理解 MultiPathFormer 的设计先要看清楚多径传播的数据形态和传统模型的局限。2.1 多径传播的物理背景发射机发出的电磁波在传播过程中会遇到建筑物、地面、人体、车辆等物体发生反射、散射、绕射。结果是接收天线收到的信号不是发射信号本身而是不同路径到达信号的叠加。每一条路径带有独立的时延、幅度、相位、到达角AOA和离开角DOD。在数学上无线信道经常用频域信道响应 H(f,t) 或者时域信道冲激响应 h(τ,t) 来描述h(τ,t) Σ (P_i(t) · δ(τ - τ_i(t)) · e^(jθ_i(t)))其中 i 表示第 i 条路径P_i 是路径增益τ_i 是时延θ_i 是相位。这里的难点在于这些路径参数不是静止的它会随着发射机、接收机和环境物体的移动而变化。一次 10 毫秒的信道测量里就可能包含多组随时间演化的路径分量。这个数据形态有非常明显的“结构化特征”时延域上有多个峰值对应不同路径。角度域上有方向聚集性路径集中在少数角度簇。时间域上有相关性路径的移动是连续的。频段和环境变化后具体数值变化大但“多簇结构”依然存在。这正是深度学习可以发挥的地方同时也是传统模型表现吃力的地方。2.2 传统信道建模方法的三种路线与各自瓶颈第一种是物理参数模型例如射线追踪。它根据环境三维地图逐条计算电波传播路径。优点是精度高缺点是慢而且必须拿到精确的环境模型。一个站址要建一套环境库成本极高。第二种是随机统计模型例如基于几何的随机信道模型GBSM。它用概率分布描述路径到达簇、角度扩展和时延扩展。优点是普适性强但粒度过粗很难刻画具体站址下的信道细节。第三种是纯数据驱动模型例如用 CNN 或者 RNN 做信道预测或信道估计。这类方法在单场景内可以做到不错的效果但最大的问题在于模型容量完全花在拟合某个特定数据分布上一旦环境变了分布偏移模型就需要重新采集数据重新训练复杂度和成本并没有比传统方法低到哪里去。可以看出这三条路线的共同短板是它们都没有解决“知识积累”的问题。射线追踪积累的环境库不能迁移统计模型的参数不能迁移数据驱动模型的权重更是一换场景就作废。2.3 为什么数据驱动方法会失效这不是深度学习不行而是数据驱动的研发方式在无线物理层遇到了两个特殊障碍。第一无线信道数据的采集成本极高。真实信道测量需要射频收发硬件、探头、同步设备和场地。一次测量活动收集到的数据量和互联网随便攒几千万条文本或图片相比简直少得可怜。第二信道数据的分布極度碎片化。室内、室外、城市、郊区、毫米波、sub-6 GHz每一个组合都对应一个差异巨大的数据分布。传统深度学习的前提是训练和测试来自同一个分布这在无线场景里几乎不成立。要打破这个局面思路就必须改变不再为每一个“地点 频段 任务”单独训练一个模型而是让模型从“海量的、多样的、未标注的”信道数据中先学会多径传播的通用结构再在下游任务中少量微调。这就是 MultiPathFormer 作为基础模型的根本逻辑。3. MultiPathFormer 核心设计思路拆解从标题来看MultiPathFormer 的核心是把多径传播建模为一个序列建模问题然后用 Transformer 架构学习其中的时空依赖关系。3.1 输入数据形式从信道测量到模型输入多径传播数据在工程上最常见的形态是信道冲激响应采样或者频域信道矩阵。在大规模 MIMO 场景下还可以进一步拆成每根天线上的信道响应。对于一个典型数据样本可以把它组织成这样的张量第 1 维时间快照对应信道随时间的变化。第 2 维时延 bin 或频域子载波索引。第 3 维空间维度天线、角度或站点。第 4 维特征通道幅度、相位、I/Q 分量等。MultiPathFormer 需要解决的第一件事就是如何把这个多维张量合理编码给 Transformer。3.2 为什么序列化表示适合多径信道Transformer 的核心机制是自注意力。自注意力擅长建模长度为 L 的输入序列内部的任意位置之间的依赖关系。而多径信道正好具备这种特性。传统 RNN 处理信道序列时只能按时间顺序一步一步地隐式传递信息对长距离依赖不敏感CNN 受限于感受野只能捕获局部相关。多径时延谱里面若干时延抽头之间可能存在跨度很大的相关结构空间天线之间也有长距离耦合这正好是自注意力最舒服的场景。具体来说一个“多径事件”可以被序列化为一系列 token。每个 token 表示某个时刻、某个时延 bin、某根天线上的信道观测。这样一来时间上的连续演化可以被注意力机制捕获。时延域上簇与簇之间的结构可以被注意力机制捕获。空间维度上不同通道的相关性也可以被注意力机制捕获。因此MultiPathFormer 选择 Transformer 并不是赶时髦而是因为多径信道的“高维、结构化、非局部相关”特征与自注意力机制天然匹配。3.3 可推断的架构组成基于目前公开材料给出的信息和基础模型通用范式MultiPathFormer 的架构大概率包含以下几个核心模块。第一是物理嵌入模块。原始的 I/Q 数据可以直接作为输入但更高效的做法是根据无线传播的物理特性加入额外特征例如时延值、到达角、离开角、站点坐标、载频、带宽等。把这些物理信息编码成嵌入向量再和原始信道观测拼接能让模型更快地理解自己看到的是哪个频段、哪个环境。第二是时空注意力编码器。这是模型的主干。一个合理的设计是使用分解式注意力先对时间维度做注意力再对空间/时延维度做注意力减少计算复杂度。相比在整个四维张量上做全局注意力这个设计更贴近信道数据的各向异性结构。第三是输出头。针对不同任务输出头可以替换。预测任务用回归头分类任务用分类头信道重建任务用重建头。这也是基础模型“一个主干、多个头”的典型设计。第四是训练准则。预训练阶段可以不依赖标签用类似掩码自编码的方式把一部分时延-频域观测掩掉让模型从剩余观测中重建从而学习到信道结构的表征。下游任务阶段再用少量标注数据微调。下面给出一个简化版模型主干示意代码帮助理解整体流程不是官方实现只用于表达设计逻辑# 文件路径multipath_former_demo.py import torch import torch.nn as nn class MultiPathFormerBlock(nn.Module): 简化的 MultiPathFormer 编码器块演示时-空分解注意力设计。 def __init__(self, d_model, n_heads): super().__init__() self.time_attn nn.MultiheadAttention(d_model, n_heads, batch_firstTrue) self.spatial_attn nn.MultiheadAttention(d_model, n_heads, batch_firstTrue) self.norm nn.LayerNorm(d_model) self.ffn nn.Sequential( nn.Linear(d_model, 4 * d_model), nn.GELU(), nn.Linear(4 * d_model, d_model), ) def forward(self, x_time, x_spatial): # x_time: (B, T, D)按时间维做注意力 attn_out, _ self.time_attn(x_time, x_time, x_time) x_time self.norm(x_time attn_out) # x_spatial: (B, S, D)按空间维做注意力 attn_out, _ self.spatial_attn(x_spatial, x_spatial, x_spatial) x_spatial self.norm(x_spatial attn_out) # 共享 FFN fused self.norm(x_time x_spatial) fused self.ffn(fused) return fused这段代码演示的是“时间和空间交替注意力”的思路。实际项目中还可以在注意力前加入相对位置编码用来标记时延差和天线间距这些位置关系对多径传播有明确的物理含义。4. 数据处理与训练管线设计模型架构只是一个骨架真正决定 MultiPathFormer 能不能成为基础模型的是它吃什么样的数据、怎么组织训练。这一节把重点放在实操链路。4.1 数据有哪些来源无线信道数据的来源主要有三类真实测量、射线追踪仿真、生成模型合成。真实测量数据的价值最高因为它包含了真实环境中所有没有被建模的细节——人体遮挡、树叶晃动、车辆经过等等。但真实测量数据的获取成本太高且难以覆盖所有环境类型。射线追踪仿真是当前最常见的预训练数据来源。用现有的射线追踪工具可以在数万个虚拟站点上仿真信道数据并指定频段、天线阵列拓扑、环境材质参数。优点是可以批量生成、标签齐全缺点是和真实环境存在建模误差。生成模型合成是第三种选择。先用已有数据训练一个生成式信道模型再用它快速生成新的样本。这个做法的优点是数据量上限极高缺点是会继承生成模型的偏差。在基础模型的预训练阶段最稳妥的组合是“以射线追踪仿真为主用真实测量做校准和测试”。预训练阶段对数据量更敏感先用仿真数据把模型喂饱微调和评估阶段再引入真实数据保证模型对真实环境的适配性。4.2 数据预处理从仿真输出到模型张量假设我们从射线追踪工具拿到了一批原始信道采样接下来的预处理步骤是这样的将原始信道数据按频段和带宽重采样统一到同一个频域分辨率。提取时延-幅度的多径分量或者保留频谱数据。按时间快照切分窗口形成可训练的样本序列。对不同频段的数据做归一化否则模型会把频段信息当成噪声学进去。划分预训练集和下游任务集记录每个样本的来源环境、频段和天线配置。这里尤其要注意第 4 步。同一套模型如果既训练 sub-6 GHz 数据又训练毫米波数据不做归一化的话幅值尺度差异会主导注意力权重模型学不到结构信息只会记住“频段越高、衰减越大”这种表面规律。一个频道内归一化和全局统计归一化的简化实现如下# 文件路径preprocess_channel.py import numpy as np def normalize_channel_samples(samples, global_statsNone): samples: (N, T, F, C) 形状的信道数据。 N 为样本数T 为时间快照数F 为频域/时延采样点数C 为通道数。 if global_stats is None: # 在全量数据上统计均值方差避免样本间不一致 mean np.mean(samples, axis(0, 1, 2), keepdimsTrue) std np.std(samples, axis(0, 1, 2), keepdimsTrue) 1e-6 global_stats (mean, std) samples_norm (samples - global_stats[0]) / global_stats[1] return samples_norm, global_stats4.3 预训练任务选择基础模型的预训练任务需要满足两个条件不需要人工标注能够迫使模型学到对下游有用的结构。对多径信道数据最自然的自监督任务是掩码重建。具体做法是把一段信道频谱按照时延方向或者频域方向随机掩掉一部分让模型尝试从剩余部分重建完整频谱。这个任务和 BERT 的 masked language modeling 同构模型要重建被掩盖的位置就必须理解多径传播在时延-频率上的连续结构和相关性。另一个可选任务是对比学习。把同一个物理环境下不同时刻的信道样本视作正样本对把不同环境下的样本视作负样本对让模型学会“环境不变的表征”。这个任务对下游的场景迁移更有帮助但构建样本对需要更小心的实验设计。在论文标题没有明确给出预训练细节的情况下最稳妥的设计是先以掩码重建为基础预训练再在消融实验里对比对比学习带来的增益。这样既保证模型学到基础传播规律又可以通过对比学习强化环境不变性。5. 从预训练到下游任务微调链路与配置示例基础模型真正发挥价值是在微调阶段。下面用一个“信道预测”任务展示完整链路。5.1 任务定义信道预测的应用场景是基站连续收到用户上报的信道信息但反馈存在时延网络需要在下一帧实际到达前预测出未来的信道状态。模型输入是过去 N 个时隙的信道观测输出是未来 M 个时隙的信道。这是典型的时序预测任务适合验证 MultiPathFormer 的下游适配能力。5.2 微调配置在预训练好的主干部上加一个小的回归头然后在小规模标注数据集上微调。为了不让微调破坏主干学到的通用特征通常采用分阶段调整学习率的策略。# 文件路径finetune_channel_prediction.yaml experiment: task: channel_prediction backbone: multipath_former_base pretrained_weights: ./checkpoints/pretrained_cir.pth freeze_backbone_epochs: 5 dataset: name: synthetic_urban split: [0.7, 0.15, 0.15] window_size: 16 predict_horizon: 4 batch_size: 32 optimizer: name: adamw base_lr: 5.0e-5 backbone_lr_ratio: 0.1 scheduler: cosine warmup_steps: 200 loss: name: smooth_l1 metrics: - nrmse - cosine_similarity这个配置里有两个关键设计freeze_backbone_epochs 设为 5意思是微调前 5 个 epoch 只训练回归头主干参数不更新。这是避免灾难性遗忘的实用技巧。backbone_lr_ratio 设为 0.1意思是主干的更新速度只有头部的十分之一让预训练特征尽量保持稳定。5.3 评估指标与对比基线评估信道预测任务常用指标是归一化均方根误差NRMSE和预测信道与实际信道的余弦相似度。余弦相似度更贴近通信需求因为预编码性能对信道方向更敏感。对比基线建议同时包含传统方法和数据驱动方法方法需要环境地图跨场景迁移能力预测时延处理典型定位射线追踪需要差难以直接预测离线分析经典 AR 预测不需要差仅适用于慢衰落单链路预测CNN 或 LSTM 信道模型不需要差中单场景专用模型MultiPathFormer 微调不需要强预训练后强多场景通用模型这类对比表可以直观看出基础模型范式的优势发生在哪一层不是单场景精度一定碾压专用模型而是用很小的微调成本获得跨场景可用性。6. 典型应用场景与预期收益分析MultiPathFormer 学习的多径传播表征可以服务多个物理层任务。6.1 信道估计与 CSI 反馈在大规模 MIMO 场景下用户端需要把估计到的信道信息反馈给基站。反馈开销和准确性是长期矛盾。传统做法是压缩反馈用自编码器学习低维表示。如果让 MultiPathFormer 先学会多径结构反馈端就只需要传输多径参数的稀疏表示基站端用基础模型重建完整信道。这部分收益取决于模型对多径结构的建模是否足够精确。6.2 波束管理毫米波和太赫兹通信中波束搜索是全链路开销最大的环节之一。传统方案在每个传输机会都要扫描大量波束方向。如果模型能从历史信道测量中预测当前用户最可能的到达角就能把扫描范围缩小到少数候选波束显著降低波束训练时延。MultiPathFormer 学到的角度-时延联合结构正是波束预测最需要的输入特征。6.3 辅助定位与感知多径的时延和角度信息本质上反映了发射机与反射体之间的几何关系。同一个基础模型如果用前几层提取表征后接回归头输出位置坐标就能从信道数据中直接估计用户位置或者感知环境中新出现的反射体。这是 6G 通感一体化热门方向。6.4 适配新型物理层波形当信道模型和实际物理环境不匹配时波形设计容易出现性能损失。MultiPathFormer 这样的数据驱动模型可以用于离线评估候选波形在典型多径环境下的性能减少对实测环境的依赖。需要提醒的是上面这些场景并不是 MultiPathFormer 在论文中一定都验证过的内容。它们是基于基础模型能力边界做的合理推断。读者在实际评估时应该以论文实验部分覆盖的任务为准对于论文没覆盖的任务要自己设计实验确认迁移效果。7. 落地过程中的常见问题与排查思路基础模型的理想很美落地时却会撞上不少实际工程问题。下面按高频程度列举。问题现象可能原因排查方式解决方案微调后模型在目标任务上反而不如从头训练的小模型预训练数据与下游任务分布差异太大或者微调学习率过高检查预训练数据中是否包含目标场景类型对比不同层参数的梯度范数降低主干学习率增加 Freeze 阶段补充目标场景少量数据参与预训练训练损失在预训练阶段震荡剧烈数据中不同频段/站点的尺度没有归一化检查训练样本的幅值直方图统一归一化按频段做 group norm注意力矩阵相似度极高不同 attention head 没有分化位置编码信息不够模型只能依赖共享的全局统计可视化 attention map加入时延差、天线间距的相对位置编码跨场景评估时性能骤降预训练数据覆盖不够均衡模型仍偏向某些环境按场景拆分评估集分别看 error按环境类型做数据重采样引入更多样化仿真场景推理速度超过实时预算Transformer 序列长度过长注意力复杂度太高profiling 每层耗时使用稀疏注意力或分解注意力对模型做知识蒸馏缩减预测窗口长度预训练数据全部是仿真数据真实场景效果差仿真与真实信道存在 domain gap对比仿真和实测的时延谱分布用少量真实数据做 domain adaptation在仿真的传播参数中加入随机扰动这里特别值得关注的是“微调不如从头训练”这个现象。这会让很多团队直接否定基础模型路线但实际上问题往往出在微调策略而不是基础模型本身。先冻结主干只调头部观察预训练表征质量再逐步放开深层参数微调观察性能变化。用这个策略可以定位是“预训练没学好”还是“微调破坏了表征”。8. 面向论文复现和工程化落地的最佳实践这一节给出几条实际操作建议无论读者是想复现论文还是想在自己的项目中应用类似思路都有参考价值。8.1 优先构建统一的信道数据格式基础模型项目最容易踩的坑是数据格式混乱。不同仿真工具导出的信道数据格式各异有的是复数矩阵有的拆成幅度和相位有的是稀疏多径参数。开始训练之前先定义统一的中间格式例如统一的 HDF5 或者 Parquet 存储字段固定为采样率、频段、时间戳、天线配置和信道数据数组。这样后续训练和微调代码只需要面向一种数据格式能省下大量重复工作。8.2 先在小规模数据上验证训练管线不要一开始就在大规模仿真数据上跑预训练。先用几百个样本、一个中等 Transformer 模型跑通完整的数据读取、预处理、训练、保存、评估流程。确认 loss 在下降、checkpoint 能恢复、评估脚本结果一致之后再放大数据规模。这个流程大概能避免项目一半以上的返工。8.3 设计评估协议时要明确“场景隔离”评估预训练模型时一个常见的错误是随机切分训练集和测试集那么同一站点的相似样本会同时出现在两边指标虚高。正确做法是按站点或者按环境类型切分保证测试集来自模型未见过的环境。这个评估协议才真正反映基础模型的跨场景泛化能力。8.4 为通信性能留出验证接口信道预测模型最终要服务通信系统。只算 NRMSE 或 cosine similarity 不够还要把预测结果送入系统级链路仿真计算误块率、频谱效率和波束指向误差。有些预测模型在指标上很好看链路仿真表现却一般这是因为预测误差集中在信道方向敏感的维度。建议在项目早期就接入系统级评估避免模型调优方向跑偏。8.5 计算约束下的模型选型完整的大型 Transformer 在 6G 基站侧实时部署并不现实。实际工程中可以做两件事一是把模型蒸馏到更小的网络比如用主干的输出作为监督信号去训练一个小 CNN 或轻量 Transformer二是在基站侧部署小型推理版本把大型版本放在云端用于离线训练和模型更新。这种“大模型训练 小模型推理”的模式是当前无线 AI 基础模型落地更现实的路径。9. 总结与后续学习方向MultiPathFormer 把基础模型范式引入多径无线传播建模本质上是想改变物理层 AI 模型“每场景一训、每任务一训”的研发模式。它的核心贡献不在某一个具体网络模块而在于提供了一个统一的预训练表征让信道估计、信道预测、波束管理和感知等下游任务共享传播规律的表示。这个方向一旦走通对无线物理层研发效率的提升会是体系性的。对读者来说下一步可以从三个方向深入。第一从多径信道数据入手找一套射线追踪工具生成自己的预训练数据用现有的 Transformer 库搭一个简化版 MultiPathFormer在小规模数据上跑通表征学習和微调。不需要一上来就复现完整的论文实验先把数据管线建起来。第二深入研究无线基础模型的预训练任务设计。掩码重建适合学习结构对比学习适合学习环境不变性但两者如何组合、在什么数据比例下最优目前远没有定论这个方向还有很多可以探索的空间。第三关注基础模型在真实系统里的部署问题。无线物理层的模型推理有严格的时延约束模型压缩、知识蒸馏、边缘推理这些技术在无线场景中的使用方式很可能成为未来工程落地中最关键的瓶颈。这篇文章能在多大程度上帮你把“MultiPathFormer 是什么”变成“我能用它解决什么问题”取决于你动手跑通第一个实验。建议收藏备用需要复现或扩展的时候可以直接对照本文的数据处理、微调配置和排查清单来推进。