真武 PPU 云服务

    真武 PPU 云服务

    面向训练与推理,基于阿里云产品,利用真武 PPU 加速 AI 应用创新

    preview image
    什么是真武 PPU?

    真武 PPU(Parallel Processing Unit)一款为AI应用加速的芯片,具有高易用性,适用于各类大模型和传统模型的训练及推理场景。它支持主流AI框架和深度学习模型,提供编译器和多种开源加速库,同时配备完整的工具链,帮助您快速、低成本地迁移应用。PPU拥有自研的软件栈,通过 PPU SDK 能够最大化产品算力,显著提升计算效率。真武 PPU 在阿里云实现多个万卡集群部署。依托‘大模型+云+芯片’全栈AI能力,阿里云服务了小鹏汽车、新浪微博等 400+ 多家客户。截至 2026 年 4 月,真武 PPU 已经累计规模化交付 56 万片。

    真武 PPU 基础数据

     

    真武 PPU 的优势

    支持多种 AI 负载,包括预训练、后训练及推理场景,完全兼容 Qwen、LLaMa 等常见开源大模型,支持 Megatron、DeepSpeed、vLLM 等常见训练、推理框架无缝迁移。

     

    卡片头图

    全自研


    ● 硬件端到端全链路自研

    ● 自研并行计算架构

    ● 自研计算单元、片间互联等核心模块
    卡片头图

    高性能


    ● 高算力、高容量、高带宽

    ● 超强互联通信能力

    ● 丰富低精度数据格式支持
    卡片头图

    高易用性


    ● 自研全栈软件、兼容主流AI生态

    ● 完整工具链支持

    ● 业务迁移零代码修改
    真武 PPU 的版本

    版本

    定位

    高易用训推一体 AI 芯片

    全场景训推一体 AI 芯片

    使用场景

    广泛适用于各类大模型的训练与推理,如自动驾驶主流模型、生成类模型、多模态模型、感知类模型、搜推广模型等

    广泛适用于各类大模型的训练与推理,覆盖从高精度计算到低精度推理的全场景需求

    单卡内存

    96 GB

    144 GB

    片间互联带宽

    700 GB/s

    800 GB/s

    特性

    ● 高带宽、低延迟片间互联技术 ICN

     

    ● 高速互联能力聚合整机 16 卡高算力

     

    ● 结合通信库提供灵活的 EP/TP/DP 等并行策略

     

    ● 源代码级别编译能力、提供软件栈统一编程接口

     

    ● 全面兼容主流AI生态,业务迁移零代码修改

    ● 并行计算架构与片间互联等自研核心模块全面升级

     

    ● 支持FP8/FP4低精度算力

     

    ● 支持64卡全带宽互联

     

    ● 源代码级别编译能力,提供软件栈统一编程接口

     

    ● 全面兼容主流AI生态,业务迁移零代码修改

    可用情况

    北京、杭州、上海、乌兰察布等区域

    乌兰察布(可用区 D),中卫(规划中),通过灵骏超节点实例提供

    应用场景
    加速模型推理与服务构建
    • 最佳实践

    面向推理时代,提供多重优化手段

    原生支持 vLLM、SGLang 等主流推理引擎,并提供自研 HolmesLLM 专用推理框架,提供 acext 算子库,结合大容量内存,为MoE、int8等推理场景提供针对性优化,以实现更高的吞吐与更低的时延。

     

    面向推理时代,提供多重优化手段
    支撑模型训练
    • 后训练
    • 预训练

    支持微调与强化学习集群建设

    通过人工智能平台 PAI 与 容器计算服务 ACS,可按需构建单机多卡、多机多卡模型后训练环境,搭配灵活、高性能的存储与网络方案,通稿使用您要求的训练数据,支持 Finetune 以及 Roll-out 强化学习集群建设,对模型进行后训练。

     

    支持微调与强化学习集群建设
    赋能自动驾驶
    • 最佳实践

    行业大规模实践经验沉淀

    真武 PPU 通过长期生产实践,已验证兼容 50+ 自动驾驶领域常见模型,能够支持如感知模型、预测模型、端到端模型等多种模型架构的模型训练与推理。

    行业大规模实践经验沉淀
    通过云产品使用真武 PPU

    您可以通过多样云产品进行部署,例如可以通过容器计算服务,按需编排大规模 AI 工作负载,获得开箱即用的算力与弹性可扩展能力。如果您需要完全掌控技术栈,可以选择智能计算灵骏 PPU 裸金属实例(尽请期待),或直接一步使用人工智能平台PAI,获得一站式的平台体验。

     

    • 通过人工智能 PAI 产品使用真武 PPU
    • 通过容器计算服务 ACS 使用真武 PPU

    开箱即用、深度优化的全栈模型平台

    PAI-PPU 全栈大模型平台,Model Gallery 预置200+主流模型一键部署,官方镜像与脚手架零门槛配置环境,BladeLLM/TurboX 加速引擎深度优化推理训练性能,配套企业级集群管理支持灵活售卖与多级容错,让 PPU 算力开箱即用、性能倍增。

    核心能力

    • 200+ 模型一键即用
    • 零门槛环境配置
    • 自研引擎极致加速

     

    常见问题
    Q:在真武 PPU上如何通过pip安装软件,有哪些软件可以通过这种方案安装?
    A:在PPU上您可以通过pip安装在PPU上适配和打包好的pip软件包,用法和社区的使用方式类似,目前可用的PIP软件包可以在阿里云 真武 PPU 云服务网站获取PIP软件包清单。查看详情
    Q:配合 PPU 使用的容器镜像有哪些?我可以在哪里获取?
    A:适配和测试好的 PPU 容器镜像可以在阿里云真武 PPU 云服务网站获取,通过 PAI 平台使用真武 PPU 的场景您可以关注 PAI 官方容器镜像版本发布记录,通过 ACS 平台使用 PPU 的场景您可以关......查看详情
    Q:我希望在 PAI 上使用真武 PPU 资源,有哪些最佳实践和常见问题?
    A:请参见 PAI-PPU 的最佳实践。查看详情
    Q:在真武 PPU 上如何编译软件/算子/功能模块/pip 软件包?
    A:在真武 PPU 上编译各类软件和 GPU 上非常类似,PPU 提供了对等的编译器和开发工具(用法也没有区别,用户可以不用改变使用方式即可无缝切换到 PPU 平台),所有可用的容器镜像中都已经内置......查看详情
    免费试用

    想体验更多产品功能?

    无开通或购买链接产品兜底文案

    了解更多阿里云产品介绍?

    探索 阿里云产品 了解更多产品介绍

    遇到了困难需要帮助?

    联系我们 咨询阿里云服务团队