智算“芯合”成果发布 山东移动加快构建智算领域核心能力

  11月30日下午，由中国通信学会主办、中国移动研究院承办的2024中国信息通信大会“算力网络算网一体创新发展论坛 ”在成都圆满落下帷幕。在本次论坛上，中国移动研究院、山东移动携手产业合作伙伴，重磅发布了智算“芯合”异构混训系统1.0和算力原生基础软件栈2.0成果。

  成果发布活动现场

  智算“芯合”异构混训系统1.0：支撑AI大模型跨厂商、跨架构规模训练

  众所周知大模型训练对算力有着极高需求，但不同类型的智算芯片难以聚合成资源集群，以支持更大规模模型的训练。为此中国移动深耕智算异构混合并行训练技术，推动不同智算芯片之间形成“合力”，构建智算融通生态。

  针对异构混合训练中任务分配不均衡、通信协议不兼容等关键问题，山东移动依托中移齐鲁创新院研发团队开展系统性攻关，100%自主研发实现3D并行非均匀切分功能，支持流水线并行、数据并行等主流并行模式的混合训练，并基于山东智算科研资源池进行性能调优和功能适配开发，实现百亿大模型在英伟达、天数智芯、壁仞、海光等多家智算芯片上的混合训练，训练加速比达95%以上，能够显著降低人工智能大模型训练成本，提高国产智算芯片训练效率。

  智算“芯合”异构混训系统示意图 

  智算“芯合”算力原生基础软件栈2.0：智算应用跨架构迁移一站式解决方案

  随着多样化异构智算芯片不断涌现，上层AI应用难以在智算芯片间灵活迁移、智算生态互不兼容等问题日益突出，为此中国移动联合业界提出算力原生技术，推动智算应用实现跨架构运行，实现AI应用与智算芯片之间的解耦。

  山东移动研发团队积极参与算力原生技术攻关与应用，承担高性能计算库研发工作，自主完成算子优化开发，性能已接近英伟达同类型算子，为智算“芯合”算力原生基础软件栈性能提升筑牢根基。当前，“芯合”算力原生基础软件栈2.0成果已实现泛AI应用在英伟达、华为等6家智算芯片间高效流转迁移，转换效率超95%，能够为AI模型推理、AI应用开发等行业客户提供智算应用跨架构迁移一站式解决方案。

  智算“芯合”算力原生基础软件栈示意图

  未来，山东移动将围绕智算领域加强科技创新，持续构建自主核心能力，加快原创技术攻关，以科技创新推动产业创新，支撑国产智算生态繁荣和产业升级，为我国智算算力生态体系建设贡献力量。