阿里云文档 2025-03-26

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-03-19

基于ACK部署DeepSeek蒸馏模型推理服务

本文介绍如何在阿里云容器服务ACK中使用KServe部署生产可用的DeepSeek模型推理服务。

阿里云文档 2025-03-12

Slurm用户及账户配置推荐设置

Slurm提供的账户与用户可被用于管理任务提交以及计费统计。本文主要介绍如何在Slurm集群中正确配置账户和用户,包括创建、修改和删除账户及用户的方法,并深入探讨如何以账户为单位来有效地跟踪和统计任务所消耗的资源量,从而帮助企业或研究机构更好地管理和优化其计算资源的使用效率。

阿里云文档 2025-03-07

通过开发控制台对MLflow仓库模型管理

云原生AI套件支持对MLflow模型仓库中的模型进行管理,本文介绍如何使用云原生AI套件开发控制台进行模型管理。

阿里云文档 2025-03-03

基于ComfyUI编排文生图workflow

ComfyUI是一款开源的图形化AI工作流工具,专注于简化生成式模型(如Stable Diffusion)的开发和部署流程。其基于节点化设计,您可通过拖放模块快速搭建图像生成、文本处理等复杂流程,支持本地与云端部署。本文将介绍如何基于阿里云产品完成ComfyUI的本地安装,包括环境配置、依赖安装及基础使用等步骤。

文章 2024-08-14 来自:开发者社区

Kubernetes云原生问题之Kubernetes帮助业务应用较少关注底层基础设施差异如何解决

问题一:Kubernetes做出了哪些重要的架构选择来降低分布式集群管理的附属复杂性? Kubernetes做出了哪些重要的架构选择来降低分布式集群管理的附属复杂性? 参考回答: Kubernetes做出了几个重要的架构选择来降低分布式集群管理的附属复杂性,包括控制循环(Control loops)和声明式(Declarative)API。 ...

Kubernetes云原生问题之Kubernetes帮助业务应用较少关注底层基础设施差异如何解决
文章 2023-11-16 来自:开发者社区

Kubernetes(K8s):未来云原生应用的引擎

云原生应用的兴起已经改变了应用程序开发和部署的方式。在这个新的应用程序开发范式中,Kubernetes(简称K8s)已经崭露头角,被认为是引擎的角色。本文将深入研究Kubernetes,探讨它是如何成为云原生应用的引擎的,以及为什么它在现代软件开发中变得如此重要。Kubernetes的核心概念和架构Kubernetes是一个开源的容器编排和管理平台,最初由Google开发。它引入了一系列核心概念....

Kubernetes(K8s):未来云原生应用的引擎
文章 2023-11-16 来自:开发者社区

深入探讨Kubernetes(K8s)在云原生架构中的关键作用和应用

随着云原生应用程序的兴起,Kubernetes(通常称为K8s)已经成为云原生架构的核心组件之一。它是一个开源的容器编排平台,旨在简化和自动化容器化应用程序的部署、扩展和管理。本文将深入探讨Kubernetes在云原生架构中的关键作用和应用。1. 容器化的应用程序管理Kubernetes的首要作用是管理容器化的应用程序。它允许开发者将应用程序封装在容器中,并提供了一种统一的方式来部署和运行这些容....

深入探讨Kubernetes(K8s)在云原生架构中的关键作用和应用
文章 2023-08-22 来自:开发者社区

全面掌握 Kubernetes:部署、管理和扩展云原生应用

随着云计算和容器化技术的迅速发展,Kubernetes 已经成为了云原生应用部署、管理和扩展的事实标准。本文将为您介绍 Kubernetes 的基本概念、核心组件,以及如何使用 Kubernetes 部署、管理和扩展云原生应用。 什么是 Kubernetes? Kubernetes(通常简称为 K8s)是一个开源的容器编排和管理平台,由 Google 开发并捐赠给 Cloud Nativ...

全面掌握 Kubernetes:部署、管理和扩展云原生应用
文章 2023-07-06 来自:开发者社区

Kubernetes云原生实战:分布式GeaFlow实现图研发,构建第一个商业智能应用

GeaFlow(品牌名TuGraph-Analytics) 已正式开源,欢迎大家关注!!! 欢迎给我们 Star 哦! GitHubhttps://github.com/TuGraph-family/tugraph-analytics更多精彩内容,关注我们的博客 https://tugraph-analytics.github.io/引言Kubernetes在云原生应用中扮演着至关重要的角色,为....

Kubernetes云原生实战:分布式GeaFlow实现图研发,构建第一个商业智能应用

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云云原生

关注云原生中间件、微服务、Serverless、容器、Service Mesh等技术领域、聚焦云原生技术趋势、云原生大规模的落地实践

+关注