容器服务Kubernetes版学习服务伸缩的相关内容

阿里云文档 2026-08-11

使用Gateway with Inference Extension为SGLang PD分离服务配置推理路由

Prefill/Decode分离架构（PD分离），是当前主流的LLM推理优化技术，通过将LLM推理中的两个核心阶段解耦并分开部署在不同GPU上，避免资源争抢，从而显著降低TPOT，提升系统吞吐。本文以Qwen3-32B模型为例，演示如何通过Gateway with Inference Extension为部署在ACK中的SGLang PD分离架构模型推理服务配置推理路由。

阿里云文档 2026-08-11

通过ALB使用Gateway API暴露服务

Gateway API是Kubernetes官方项目，是下一代Kubernetes路由和负载均衡API，支持通过Gateway API配置流量规则。本文介绍如何通过ALB使用Gateway API来暴露服务至集群外部。

阿里云文档 2026-03-06

在ACK集群中使用Gateway with Inference Extension路由外部MaaS服务

当 ACK 集群对接外部 MaaS 服务（如百炼）时，为统一处理 API 密钥和请求路径，可基于AI推理网关（Gateway with Inference Extension），配置路由规则（HTTPRoute），实现请求凭证的自动注入及URL重写，从而快速集成模型服务。

阿里云文档 2026-01-06

通过Gateway with Inference Extension访问服务

Gateway API是Kubernetes官方项目，是下一代Kubernetes路由和负载均衡API，支持通过Gateway API配置流量规则。本文介绍Gateway with Inference Extension支持的一些Gateway API基础能力配置方法。

阿里云文档 2025-09-25

ACK集群巡检CoreDNS服务后端服务器数不为0

ACK集群巡检的检测项“CoreDNS服务后端服务器数不为0”无风险，视为“合规”。规则通过获取最后一次巡检报告结果作为检测依据，如果集群未开通巡检配置评估为“不适用”；如果集群开通了配置，但是运行的巡检任务不存在或者运行最后一次任务未结束，评估为“无数据”。

文章 2024-10-07 来自：开发者社区

k8s学习--kubernetes服务自动伸缩之水平收缩(pod副本收缩)VPA策略应用案例

@TOC 前言有任何疑问或不懂的地方均可评论或私信，欢迎交流关于VPA的详细解释链接: VPA的详细解释策略在VPA中，updateMode 是一个重要的配置选项，它决定了VPA如何应用其提供的资源建议。根据不同的设置，VPA可以采取不同的策略来更新Pod的资源配置： Off：VPA不会应用任何资源...

文章 2024-10-07 来自：开发者社区

k8s学习--kubernetes服务自动伸缩之垂直伸缩(资源伸缩)VPA详细解释与安装

@TOC 前言有任何疑问或不懂的地方均可评论或私信，欢迎交流 VPA简介官方链接https://github.com/kubernetes/autoscaler/tree/master/vertical-pod-autoscaler 简单理解与HPA类似，区别在于HPA自动控制的pod副本数量而VPA则自动控制的是CPU 和内存的requests&...

文章 2024-10-07 来自：开发者社区

k8s学习--kubernetes服务自动伸缩之水平伸缩(pod副本伸缩)HPA详细解释与案例应用

@TOC 前言有任何疑问或不懂的地方均可评论或私信，欢迎交流 HPA简介简单理解 HAP，全称 Horizontal Pod Autoscaler 简单来说就是根据指标来对pod副本数量进行自动控制比如说cpu和内存使用率 HPA 定期检查内存和 CPU使用率高就会自动创建多个副本(上限取决于自定义的数量)使用率低就会关闭多个副本(下限取决于自定义的数量...