阿里云文档 2025-02-12

基于ACK部署DeepSeek蒸馏模型推理服务

本文介绍如何在阿里云容器服务ACK中使用KServe部署生产可用的DeepSeek模型推理服务。

阿里云文档 2025-02-12

在ACK Edge集群中部署混合云LLM弹性推理

为解决混合云场景下部署LLM推理业务时,流量的不均衡带来的数据中心GPU资源分配问题,ACK Edge集群提供了一套混合云LLM弹性推理解决方案,帮您统一管理云上和云下的GPU资源,低峰期优先使用云下数据中心资源,高峰期资源不足时快速启用云上资源。该方案帮您显著降低LLM推理服务运营成本,动态调整并灵活利用资源,保障服务稳定性,避免资源闲置。

文章 2025-02-08 来自:开发者社区

企业级LLM推理部署新范式:基于ACK的DeepSeek蒸馏模型生产环境落地指南

【阅读原文】戳:企业级LLM推理部署新范式:基于ACK的DeepSeek蒸馏模型生产环境落地指南 DeepSeek凭借其出色的推理表现在春节期间火爆全网,本文重点介绍如何在阿里云容器服务ACK中使用KServe部署生产可用的DeepSeek模型推理服务。       背景介绍   ...

企业级LLM推理部署新范式:基于ACK的DeepSeek蒸馏模型生产环境落地指南
阿里云文档 2025-01-24

采集自建K8s集群标准输出(DaemonSet方式部署Logtail)

日志服务提供DaemonSet与Sidecar两种方式部署Logtail以供采集K8s日志,两种方式的差异请参考K8s集群场景Logtail安装采集指引。本文介绍如何通过DaemonSet方式部署Logtail采集自建K8s集群标准输出的流程。

阿里云文档 2025-01-24

采集自建K8s集群文本日志(DaemonSet方式部署Logtail)

日志服务提供DaemonSet与Sidecar两种方式部署Logtail以供采集K8s日志,两种方式的差异请参考K8s集群场景Logtail安装采集指引。本文介绍如何通过DaemonSet方式部署Logtail采集自建K8s集群文本日志的流程。

阿里云文档 2025-01-24

采集阿里云ACK集群标准输出(DaemonSet方式部署Logtail)

日志服务提供DaemonSet与Sidecar两种方式部署Logtail以供采集K8s日志,两种方式的差异请参考K8s集群场景Logtail安装采集指引。本文介绍如何通过DaemonSet方式部署Logtail采集阿里云ACK集群标准输出的流程。

文章 2024-10-11 来自:开发者社区

[kubernetes]二进制方式部署单机k8s-v1.30.5

前言之前在单机测试k8s的kind最近故障了,虚拟机运行个几分钟后就宕机了,不知道是根因是什么,而且kind部署k8s不太好做一些个性化配置,干脆用二进制方式重新搭一个单机k8s。 因为是用来开发测试的,所以control-plane就不做高可用了,etcd+apiserver+controlle...

文章 2024-10-09 来自:开发者社区

基于Ubuntu-22.04安装K8s-v1.28.2实验(一)部署K8s

目录 1 环境配置要求: 更改机器名 2.关闭swap和防火墙 3.开启IPv4转发 2安装containerd 3配置crictl客户端 4安装kubuadm、kubelet、kubectl 5初始化master节点 拉取下载镜像 ...

基于Ubuntu-22.04安装K8s-v1.28.2实验(一)部署K8s
文章 2024-09-21 来自:开发者社区

部署Kubernetes客户端和Docker私有仓库的步骤

部署Kubernetes客户端以及配置Docker私有仓库是现代云原生架构中的重要步骤,它们分别为集群管理和镜像存储提供了基础。以下是实现这两个目标的分步指南,专为需要精确、高效和可靠部署方案的开发者和系统管理员设计。 部署Kubernetes客户端(kubectl) 下载kubectl: 访问Kubernetes官方网站或GitHub页面...

文章 2024-09-04 来自:开发者社区

Ubuntu 22.04LTS版本二进制部署K8S 1.30+版本

                                              作者:尹正杰版权声明:原创作品,谢绝转载!否则将追究法律责任。 一.K8S集群各主机环境准备 1.环境准备 主机名IP地址角色划分硬件配置k8s-master0110.0.0.241api-server,control manager&...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

容器服务

国内唯一 Forrester 公共云容器平台领导者象限。

+关注
相关镜像