阿里云文档 2025-03-26

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-25

设置Slurm队列优先级

为了更有效地管理和分配资源,优化作业调度,提升系统利用率,并满足多样化的作业需求,队列成为任务调度中不可或缺的配置项。合理的队列设置能够确保高优先级的任务优先获得所需资源,从而最大化资源利用效率。本文介绍在Slurm系统环境下,当出现作业提交或作业状态变化时,如何通过恰当的队列配置策略来实现尽可能多的任务调度处理,以达到最佳性能。

阿里云文档 2025-03-12

Slurm用户及账户配置推荐设置

Slurm提供的账户与用户可被用于管理任务提交以及计费统计。本文主要介绍如何在Slurm集群中正确配置账户和用户,包括创建、修改和删除账户及用户的方法,并深入探讨如何以账户为单位来有效地跟踪和统计任务所消耗的资源量,从而帮助企业或研究机构更好地管理和优化其计算资源的使用效率。

阿里云文档 2025-03-07

通过开发控制台对MLflow仓库模型管理

云原生AI套件支持对MLflow模型仓库中的模型进行管理,本文介绍如何使用云原生AI套件开发控制台进行模型管理。

阿里云文档 2025-03-03

基于ComfyUI编排文生图workflow

ComfyUI是一款开源的图形化AI工作流工具,专注于简化生成式模型(如Stable Diffusion)的开发和部署流程。其基于节点化设计,您可通过拖放模块快速搭建图像生成、文本处理等复杂流程,支持本地与云端部署。本文将介绍如何基于阿里云产品完成ComfyUI的本地安装,包括环境配置、依赖安装及基础使用等步骤。

文章 2025-02-28 来自:开发者社区

阿里云ACK One:注册集群支持ACS算力——云原生时代的计算新引擎

随着云原生技术的不断发展,企业对高效、灵活的计算资源需求愈发迫切。为了进一步助力企业高效利用云计算资源,ACK One注册集群[1]已正式支持ACS(容器计算服务)[2]算力,为企业的容器化工作负载提供更多选择和更强大的计算能力。 ACK One注册集群优势 传统IDC数据中心自建Kubernetes集群存在容量受限和弹性不足的问题。尤其是在例如招聘季、节假日...

文章 2025-02-11 来自:开发者社区

阿里云ACK One:注册集群支持ACS算力——云原生时代的计算新引擎

【阅读原文】戳:阿里云ACK One:注册集群支持ACS算力——云原生时代的计算新引擎 随着云原生技术的不断发展,企业对高效、灵活的计算资源需求愈发迫切。为了进一步助力企业高效利用云计算资源,ACK One注册集群[1]已正式支持ACS(容器计算服务)[2]算力,为企业的容器化工作负载提供更多选择和更强大的计算能力。     ...

阿里云ACK One:注册集群支持ACS算力——云原生时代的计算新引擎
文章 2024-12-23 来自:开发者社区

容器化时代的领航者:Docker 和 Kubernetes 云原生时代的黄金搭档

一、Docker   添加图片注释,不超过 140 字(可选) docker是一种开源的应用容器引擎,可以将应用程序和依赖打包成一个可移植的镜像,然后发布到任何支持docker的平台上,也可以实现虚拟化。docker的核心概念有三个:镜像(image)、容器(contain...

容器化时代的领航者:Docker 和 Kubernetes 云原生时代的黄金搭档
文章 2024-11-19 来自:开发者社区

探索Kubernetes:云原生应用的基石

概要:本文深入探讨了Kubernetes(K8s)这一云原生应用的核心平台,从基本概念、架构设计到实战操作,帮助读者构建和管理大规模容器化应用。 内容摘要: Kubernetes简介:概述Kubernetes的历史、目标及其在云原生生态中的位置。核心组件与架构:详细解析Kubernet...

文章 2024-11-12 来自:开发者社区

Kubernetes云原生架构深度解析与实践指南####

随着云计算技术的飞速发展,云原生(Cloud-Native)概念应运而生,成为现代软件开发的重要趋势。云原生应用以其微服务架构、敏捷性、弹性伸缩和持续交付等特性,极大地提升了开发效率和系统稳定性。在众多云原生工具中,Kubernetes无疑是最为耀眼的明星,它凭借强大的容器编排能力,成...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

容器服务

国内唯一 Forrester 公共云容器平台领导者象限。

+关注
相关镜像