容器服务Kubernetes版实战的相关内容

阿里云文档 2025-04-08

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型（671B）单卡显存不足的挑战，提出混合并行策略（Pipeline Parallelism=2 + Tensor Parallelism=8），结合阿里云Arena工具，实现在2台ecs.ebmgn8v.48xlarge（8*96GB）节点上的高效分布式部署。进一步演示如何将部署于AC...

文章 2025-03-31 来自：开发者社区

K8s集群实战：使用kubeadm和kuboard部署Kubernetes集群

在云计算和微服务的时代，离不开容器集群的管理系统，Kubernetes（K8s）便是其中的佼佼者。那么，如何运用kubeadm和kuboard轻松布署一个稳定的K8s集群呢？以下是一段详细而形象的流程。首先，确保你已经拥有了一台或一台以上的Linux服务器，因为Kubernetes是...

文章 2025-02-28 来自：开发者社区

大道至简-基于ACK的Deepseek满血版分布式推理部署实战

本文是基于阿里云容器服务产品ACK，部署Deepseek大语言模型推理服务系列文章的第二篇。将介绍如何在Kubernetes管理的GPU集群中，快速部署多机分布式Deepseek-R1 671B（“满血版”）推理服务。并集成Dify应用，构建一个简单的Deepseek问答助手。关于如何在ACK部署Deepseek“蒸馏版”模型推理服务，可以参考本系列第一篇文章《基于ACK的DeepSeek蒸馏模....

文章 2025-02-18 来自：开发者社区

阿里云ACK+GitLab企业级部署实战教程

**免责声明：**本服务由第三方提供，我们尽力确保其安全性、准确性和可靠性，但无法保证其完全免于故障、中断、错误或攻击。因此，本公司在此声明：对于本服务的内容、准确性、完整性、可靠性、适用性以及及时性不作任何陈述、保证或承诺，不对您使用本服务所产生的任何直接或间接的损失或损害承担任何责任；对于您通过本服务访问的第三方网站、应用程序、产品和服务，不对其内容、准确性、完整性、可靠性、适用性以及及时性....

文章 2025-02-13 来自：开发者社区

大道至简-基于ACK的Deepseek满血版分布式推理部署实战

【阅读原文】戳：大道至简-基于ACK的Deepseek满血版分布式推理部署实战本文是基于阿里云容器服务产品ACK，部署Deepseek大语言模型推理服务系列文章的第二篇。将介绍如何在Kubernetes管理的GPU集群中，快速部署多机分布式Deepseek-R1 671B（“满血版”）推理服务。并集成Dify应用，构建一个简单的Deepseek问答助手。关于如何在A...

文章 2024-11-21 来自：开发者社区

容器化技术：Docker与Kubernetes的实战应用

简介：本文介绍了容器化技术的核心概念，以及Docker和Kubernetes这两个主流容器化工具的实战应用。正文内容概述：容器化技术基础：解释容器化技术的定义、优势以及与传统虚拟化技术的区别。Docker入门：介绍Docker的基本概念、安装与配置、镜像与容器的管理、网络与存储等。Kubernetes实战：详...

文章 2024-11-21 来自：开发者社区

Kubernetes集群管理和服务部署实战

核心思想：本文深入讲解了Kubernetes集群的管理和服务部署，帮助读者掌握Kubernetes的核心功能。目标受众：DevOps工程师、系统管理员，对容器编排有需求。主要内容： Kubernetes的基本概念和工作原理搭建和管理Kubernetes集群（使用Minikube或kubeadm）...

文章 2024-10-11 来自：开发者社区

Kubernetes入门到进阶实战

kubernetes，简称K8s，是用8代替名字中间的8个字符“ubernete”而成的缩写。是一个开源的，用于管理云平台中多个主机上的容器化的应用，Kubernetes的目标是让部署容器化的应用简单并且高效（powerful）,Kubernetes提供了应用部署，规划，更新，维护的一种机制。 [1] 传统的应用部署方式是通过插件或脚本来安装应用。这样做的缺点是应用的运行、配...

文章 2024-09-03 来自：开发者社区

CentOS 7.9二进制部署K8S 1.28.3+集群实战

前置知识: 部署Kubernetes集群的方式目前生产环境部署kubernetes集群主要由两种方式: - kubeadm: kubeadm是一个K8S部署工具，提供kubeadm init和kubeadm join，用于快速部署kubernetes集群。 - 二进制部署: 从GitHub下载发行版的二进制包，手动部署每个组件，组成kube...