阿里云文档 2025-03-17

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-12

Slurm用户及账户配置推荐设置

Slurm提供的账户与用户可被用于管理任务提交以及计费统计。本文主要介绍如何在Slurm集群中正确配置账户和用户,包括创建、修改和删除账户及用户的方法,并深入探讨如何以账户为单位来有效地跟踪和统计任务所消耗的资源量,从而帮助企业或研究机构更好地管理和优化其计算资源的使用效率。

阿里云文档 2025-03-07

基于ACK部署DeepSeek蒸馏模型推理服务

本文介绍如何在阿里云容器服务ACK中使用KServe部署生产可用的DeepSeek模型推理服务。

阿里云文档 2025-03-07

通过开发控制台对MLflow仓库模型管理

云原生AI套件支持对MLflow模型仓库中的模型进行管理,本文介绍如何使用云原生AI套件开发控制台进行模型管理。

阿里云文档 2025-03-03

基于ComfyUI编排文生图workflow

ComfyUI是一款开源的图形化AI工作流工具,专注于简化生成式模型(如Stable Diffusion)的开发和部署流程。其基于节点化设计,您可通过拖放模块快速搭建图像生成、文本处理等复杂流程,支持本地与云端部署。本文将介绍如何基于阿里云产品完成ComfyUI的本地安装,包括环境配置、依赖安装及基础使用等步骤。

文章 2024-09-01 来自:开发者社区

自动化运维:使用Python脚本实现系统监控云原生技术实践:Kubernetes在现代应用部署中的角色

在在当今这个数字化时代,云计算已经变得无处不在,而云原生技术正成为推动企业IT转型的强大动力。作为云原生生态中的佼佼者,Kubernetes(通常称为K8s)已经成为现代应用部署和管理的黄金标准。那么,Kubernetes究竟是什么,它又是如何工作的呢? 首先,我们需要了...

文章 2024-08-07 来自:开发者社区

云原生时代的运维革新:Kubernetes 在现代 IT 架构中的角色

在当今数字化时代,IT 行业正经历着前所未有的变革。企业为了保持竞争优势,必须能够迅速适应市场变化,而这正是云原生技术大放异彩的时刻。其中,Kubernetes 作为一款强大的容器编排平台,已经变成推动现代运维革新的关键力量。 首先,Kubernetes 允许运维团队以一种高效的方式管理服务。它通过自动化容器的部...

文章 2024-08-06 来自:开发者社区

云原生时代的运维革新:Kubernetes在现代IT架构中的角色

在数字化浪潮推动下,企业对于IT系统的要求越来越高,传统的运维方式已经难以满足快速变化的业务需求。云计算技术的快速发展,特别是容器技术和微服务架构的兴起,为运维领域带来了新的变革机遇。Kubernetes作为当下最流行的容器编排平台,其在现代IT架构中的作用愈发重要。 首先,Kubernetes提供了强大的自动化...

文章 2024-08-01 来自:开发者社区

探索云原生技术:Kubernetes在现代应用部署中的角色打造个性化移动体验:从开发到操作系统定制

随着企业数字化转型步伐的加快,云计算已成为支撑现代应用发展的关键技术基础。在这一背景下,云原生(Cloud Native)技术应运而生,它强调构建可弹性扩展、松散耦合的服务,以适应快速变化的业务需求。作为云原生生态中的重要一员,Kubernetes已经成为事实上的容器编排标准,助力开发...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云云原生

关注云原生中间件、微服务、Serverless、容器、Service Mesh等技术领域、聚焦云原生技术趋势、云原生大规模的落地实践

+关注