近日，中国电信广东公司联合中国电信研究院，在智算网络领域实现重大技术突破，成功完成 Deepseek-671B 满血版长距跨数据中心（DC）分布式无损智算推理网络的技术验证验证。该成果为企业按需扩容算力及推理数据本地化存储提供了突破性的技术解决方案，标志着中国电信在智算网络技术创新上迈出关键一步。
本次实验将推理的Prefill任务放在边缘节点执行，部署少量算力，模拟企业园区数据中心，将推理的Decode任务放在云上，部署更多的算力，云、边之间通过KV Cache进行协同，有效降低推理服务成本，提升边缘节点的推理服务体验。本次实验基于昇腾PD分离的大 EP 推理架构，对 DeepSeek 671B 满血版模型开展压力验证，系统评估了 8:1、32:1、64:1 三种带宽收敛比下的运行表现。结果显示，凭借智算无损网络低延迟、高吞吐的特性，结合 PD 分离架构设计，即使在带宽收敛比64:1、百公里级长距拉远场景下，TTFT、TPOT、Throughput三个关键指标可以达到同DC场景的99%，仍能充分满足推理服务的 SLA 要求，既保障远端算力资源稳定高效支持企业 AI 推理任务，又严格满足数据不出园区的安全要求。
这一技术突破为企业算力部署模式带来革命性变革。依托智算无损网络，企业仅需在园区部署少量算力服务器结合云端海量的算力资源，即可实现算力资源的灵活调用，有效降低硬件投入成本，突破物理空间限制。而 PD 分离架构则通过数据与处理分离的创新设计，全方位保障数据在传输与处理过程中的安全性，为企业核心数据资产筑牢安全防线。 此次验证的圆满成功，不仅彰显了中国电信在智算网络领域的技术实力，更为 AI 技术的普及应用奠定了坚实基础。未来，中国电信将持续深化与行业伙伴的合作，加速智算网络技术创新与落地实践，全力助推企业数字化转型，为数字经济高质量发展注入强劲动能。（陈新豪）
（责任编辑：杨丹丹）
0 条