智能计算灵骏

极致扩展能力,驱动算力突破参数限制,支撑智能涌现

  • 极致性能

    具备多级亲和性架构设计,提供极高带宽与极低时延的GPU通信与存储访问能力
  • 万卡并行

    十万卡级别超大规模融合架构,满足万亿级参数超大规模大模型训练与推理需求
  • 算力基石

    支撑以通义大模型为代表的行业领先模型训推、智能驾驶、具身智能等场景的算力需求
  • 稳定可靠

    端到端智能故障监控与联动自愈能力,万亿参数MoE大模型训练获取99%训练有效时长
  • 产品动态
    产品简介
    智能计算灵骏是一种基于多级亲和性集群端到端设计,稳定高效、高扩展性的AI计算公共云服务,专为人工智能场景而优化设计。灵骏支持十万卡级的高性能网络扩展能力,单任务可支持万卡规模扩展性,产品提供运维管控、集群任务管理等功能,实现开箱即用。为大模型/AIGC、自动驾驶、搜索推荐、科学智能、金融量化等行业、领域提供大规模高密度的算力支撑,搭配全面覆盖的监控和故障自愈处置能力,为您的业务提供高性能、高扩展性与高稳定性于一体的创新底座,在AI时代赢得先发优势。
    智能计算灵骏
    产品优势
    智能计算灵骏是阿里云提供的高性能,高稳定性,高可扩展性的智能计算集群服务。 选择智能计算灵骏,您可以轻松构建具备有以下优势的智算资源
    img

    训推融合的超大规模集群

    专为当下与未来AI大模型设计,支持十万卡级大规模集群快速部署与管理,兼容主流深度学习框架。灵骏采用高性能网络架构(HPN, High Performance Network)解决扩展性难题,单层网络可以实现千卡级扩展,两层网络可以实现万卡级扩展,具备高可扩展性与强稳定性,为AGI时代的大模型研发提供强大算力支撑。

    img

    稳定可靠

    基于任务并行策略,通过硬件架构与平台层软件对稳定性进行云产品联动自愈设计与系统性的优化,提供精细化的故障事件发现能力,支持对节点、GPU卡、调度服务等各层面健康状态实时监控与异常处理,降低故障发生概率和故障影响面,提升任务的鲁棒性。整体具备分钟级的故障亲和恢复能力,故障发现率超98%,有效支撑万亿参数MoE大模型训练获取超过 99%训练有效时长。

    img

    多种形态灵活的存储搭配

    通过 RDMA 高吞吐、低延迟的数据访问通路,利用分布式并行文件系统CPFS,确保万卡集群在训练过程中能持续高效地获取训练样本。利用高性能低时延的缓存能力,满足数据预加载、Checkpoint存储等场景的存储性能要求,同时可以结合EBS、OSS等产品,满足块、对象等多规格、多类型的数据存储需求。可通过快速规格切换实现不同的存储访问模式,无需退租。存储流量和计算流量分离,支持异步checkpoint集群级通信优化,避免存储流量干扰计算流量造成并行通信抖动。

    img

    算力基石

    提供裸金属实例(集群)与容器实例等算力形态,实现AI计算资源的标准化与规模化。其中裸金属实例规格,具备等效的通信互联能力,搭配最新一代CPU以及充沛的GDS数据缓存;容器实例支持标准化的K8S接口和容器网络方案,同时可结合安全容器对计算存储网络进行资源虚拟化,为上层平台应用提供池化的智能算力,部分场景资源利用率可提升3倍。

    图片

    Forrester Wave

    Forrester发布公有云平台Wave™评估,阿里云在共30个打分项中有17项为最高分,在战略维度得分上升至全球第二
    Forrester发布公有云平台Wave™评估,阿里云在共30个打分项中有17项为最高分,在战略维度得分上升至全球第二
    安全合规

    智能计算灵骏是一种稳定高效、高扩展性异构计算服务,提供网络、权限控制、容灾等维度的安全和合规能力,为客户打造可信的智能计算底座。

    卡片头部图

    网络隔离

    虚拟私有网络VPD:通过虚拟私有网络,能够实现网络环境的隔离,保证数据的安全传输。
    容器网络:自研RDMA虚拟化技术,硬件级数据传输防止非法内存访问,支持IPv6以实现进一步的数据安全性保障。
    -:-
    -:-
    卡片头部图

    容灾恢复

    多AZ容灾部署:支持通过多AZ容灾部署,实现资源的优化配置提高系统容灾能力,保障业务连续性。
    故障自动恢复:针对任务支持故障自动恢复的功能,能够在故障发生时,快速、自动地恢复正常,减少故障对业务的影响。
    -:-
    -:-
    卡片头部图

    访问控制

    账号隔离:支持子账号资源隔离,保障子账户的资源和权限独立,避免发生资源冲突或者数据泄露。
    任务隔离:实现对任务层面的资源和权限精细化管理,提高系统的安全性和稳定性。
    -:-
    -:-
    客户案例
    bannerbannerbannerbannerbanner
    1
    小鹏汽车
    小鹏汽车成立于 2014 年,是一家专注未来出行的科技公司。该公司一直坚持饱和式研发投入,构建全栈自研的核心能力。如今,小鹏汽车已经成为中国优秀的智能电动汽车公司。以智能计算灵骏为代表的产品支持小鹏汽车多个业务的技术平台建设,能够方便快捷地开展数据处理、AI 训练与推理服务、工作流、SRE 运维设施等操作。
    2
    通义大模型
    通义大模型基于智能计算灵骏集群高效、稳定的强大算力支持,顺利完成了大规模训练、推理、服务创新等关键突破。凭借灵骏卓越的规模化实践能力与产品化优势,持续为以通义大模型为代表的行业领先AI模型提供国内外智算集群支撑,助力大模型技术的不断演进与应用落地。
    3
    小红书
    小红书作为中国领先的年轻人生活方式平台。随着用户数量与内容体量的快速增长,小红书对搜推系统的性能、实时性与成本效率提出了更高要求,传统算力架构已难以满足复杂深度学习模型训练与推理的需求,我们基于智能计算灵骏,构建了一个稳定、高效的AI基础设施,无论是模型训练速度还是在线服务响应能力,都得到了显著提升,为我们的‘种草’生态提供了坚实的技术保障。
    4
    月之暗面
    阿里云智能计算灵骏,以强大的算力与稳定性,支持月之暗面最新一代 Kimi K2 万亿参数MoE大语言模型的训练与推理工作,持续助力Kimi模型能力创新。
    5
    蚂蚁集团
    蚂蚁集团在大模型、知识决策、数字人、智能体等方向持续攻坚。阿里云智能计算灵骏以其大规模、高稳定的集群算力支持了蚂蚁集团的百灵大模型的训练、推理工作,助力生活管家“支小宝”、就医助理“AQ”、金融管家“蚂小财”等AIGC应用的持续创新。