过去几年,大模型训练把电互连逼到了带宽墙——当芯片间要交换的不再是单条权重,而是数百亿参数被切碎后再在专家之间反复搬运,再粗的铜线也接不住。共封装光学(Co-Packaged Optics,CPO)的承诺是把整片波分复用光路塞到 GPU 旁边那几毫米里,把每根光通道拉成百 Gbps 量级的传送带。可一旦把热源、光路、调谐器摞在同一块硅上,等于把三个脾气都对立的子系统关进同一个房间——这是一份今年八月公开的分析所揭示的故事。
为什么光互连一旦进入封装内部就会撞上热
光通道在芯片上是用极薄的环形谐振腔(microring resonator)做波长选择的。这种器件对温度极其敏感——温度每升高一摄氏度,谐振波长大概偏移 0.1 纳米,而密集波分复用相邻通道的间隔往往只有 0.4 到 0.8 纳米。换句话说,GPU 的几个热点只要稍微冒一下头,整片光通道就会失锁。
工程上给出的折中方案是给每个调谐器挂一根小型加热电阻,实时测量误差再加热补偿。这是热-光(thermo-optic)调谐——简单、稳定,但也意味着每一次微小的温度抖动都要靠那根电阻重新烧一遍。读起来像把汽车的定速巡航换成反应式油门:能跟得上,但永远有延迟。
把工作负载、网络、瞬态热三层摞起来看
过往分析往往只看网络层面,把光通道当成理想的带宽管道。这一次的研究走的是跨层路线——把 MoE 通信的真实流量特征注入网络模拟器,再把 GPU 三维堆叠产生的瞬态温度场喂回光学层,看两者相互作用究竟放大了多少代价。
他们用四层代理网络把三种 MoE 模型的通信相位映回光通道,发现一件有意思的事:常规的热-光控制回路跟不上 GPU 计算相位的瞬态温升。具体表现为,每一次专家切换都会引发一波短暂的温度波动,回路上预设的追踪带宽被一一击穿,光通道频繁进入”调谐停顿”状态——在这一小段时间里,光链路其实是哑的,梯度同步被迫等待。
被热偷走的那 2.7 到 3.8 倍
把停顿时长回灌进网络仿真,三种 MoE 构型的损失全都被量化出来:Mixtral 8×7B 的训练迭代因为这些停顿被拉长到接近热-光基线的 2.7 倍,Qwen-MoE 14.3B 接近 3.8 倍,LLaMA-MoE 6.7B 也有 3.3 倍。这不是带宽本身的损失,而是等待补齐波长所挤出的空挡。
换一个角度看:当 GPU 还在等一束光重新对齐时,下一批 token 已经悄悄堆在了另一条光路上——这正是 MoE 训练最忌讳的”通信气泡”。墙上的带宽没空,瓶颈在回路跟不上世界变化。
铁电调谐:把电阻换成极化方向
论文给出的替代方案是铁电材料驱动的电光调谐——不再靠加热折射率,而是靠电场改变材料的极化方向从而直接挪动谐振波长。响应时间从毫秒级降到纳秒级,连续供电的功率也低一个数量级。这意味着调谐器可以”看见”GPU 的瞬态抖动而不是去猜。
把这种铁电方案代回到那三层仿真里,三种模型的速度分别拉回到原本该有的并行节奏。结果是 2.7 倍、3.8 倍、3.3 倍的恢复——不是凭空多出来的速度,而是把热偷走的那段时间还回去。
跨层分析为什么值得被当成新工具
这一类研究最大的方法论意义是把”光互连”放进训练循环里:带宽足不足、调谐跟不跟得上,不再是器件厂和系统集成商两家各自的考卷。以前做光互连只看插入损耗与波长漂移;以前做 MoE 训练只看 All-to-All 流量;这一次两者第一次真的重叠在了仿真里。
接下来 CPO 要面对的不只是更高的速率,而是要开始按训练节奏设计调谐回路。这是一条过去没人走过的路——硬件加速器、训练框架、光学封装三个团队的工作语言第一次要重新对齐一遍。
对芯片行业意味着什么
对硬件厂,结论已经写好:当光引擎和 GPU 真正摞进同一封装,再想用”老办法+加热电阻”应付温升会越来越乏力。铁电调谐器、压电调谐器、甚至全光直接调谐方案的赛道上,谁先跑通量产就把这波 MoE 训练加速的红利拿到手。
对算法与系统工程师,这一波仿真给出的另一个信号是:MoE 专家路由策略本身,可以为光通道的热稳定让出一点裕度——把通信相位从一个均匀洒水模式调整为脉冲式聚集,也许就能让 GPU 的瞬态热浪变得更可控。这是一个反直觉的优化方向:让算法的脾气适配硬件的脾气。
还有哪些没回答的问题
这一类跨层仿真给了我们一张清晰的量化地图,但也留下几条未答的疑问:铁电材料在长期极化翻转下的可靠性,铁电调谐器阵列化时的良率分布,以及最关键的——这套仿真目前还停留在 GPU 计算相位较慢的代理模型上,距离真实大规模训练负载的瞬态热图还有一段距离。
还有一类问题更接近商业——MoE 模型的通信特征在持续演化,下一代模型专家数量更多、通信模式更稀疏,对光通道的瞬态压力会更轻还是更重?这条赛道的所有玩家,都还在边跑边测。但有一件事已经可以下定论:CPO 不再是”能不能做”的问题,而是”做出来怎么不被热拖垮”的问题。
