容器服务Kubernetes版伸缩策略的相关内容

阿里云文档 2025-12-25

为PD分离推理服务配置弹性伸缩策略

在Prefill-Decode（PD）分离的LLM推理架构中，Prefill和Decode阶段的资源需求差异巨大，传统的CPU/GPU利用率指标无法有效指导弹性伸缩。本方案以Dynamo框架为例，介绍如何利用KEDA，根据NATS消息队列的积压情况，为Prefill角色配置独立的弹性伸缩策略，实现资源按需分配，优化服务成本与性能。

阿里云文档 2025-12-22

DescribePolicyGovernanceInCluster：查询集群策略治理的审计日志与违规情况-容器服务 Kubernetes 版 ACK-阿里云

ACK集群容器安全策略供了种类丰富的内置规则库，包括Compliance、Infra、K8s-general和PSP，旨在确保容器在生产环境中的安全运行。您可以调用DescribePolicyGovernanceInCluster接口，查询目标集群策略治理的详细信息，例如集群当前启用的不同等级策略计数统计、策略治理审计日志、拦截和告警情况等。

阿里云文档 2025-12-22

调用DeletePolicyInstance删除策略规则实例-容器服务 Kubernetes 版 ACK-阿里云

您可以调用DeletePolicyInstance接口，在指定集群中删除策略规则实例。

阿里云文档 2025-12-22

调用DeployPolicyInstance API部署策略规则实例-容器服务 Kubernetes 版 ACK-阿里云

您可以在ACK集群中选择安全策略类型，配置策略实例的治理动作（告警或拦截）、作用的命名空间范围等，以创建并部署一个策略实例。您可以调用DeployPolicyInstance接口，在指定集群的命名空间中部署策略规则实例。

阿里云文档 2025-06-09

使用Gateway with Inference Extension实现生成式AI推理服务灰度发布

通过Gateway with Inference Extension组件，您可以在生成式AI推理服务中实现更换、升级使用的基础模型或者对多个LoRA模型进行灰度更新，将服务中断的时间降至最低。本文介绍如何使用Gateway with Inference Extension组件对生成式AI推理服务进行渐进式灰度发布。

文章 2024-10-07 来自：开发者社区

k8s学习--kubernetes服务自动伸缩之水平收缩(pod副本收缩)VPA策略应用案例

@TOC 前言有任何疑问或不懂的地方均可评论或私信，欢迎交流关于VPA的详细解释链接: VPA的详细解释策略在VPA中，updateMode 是一个重要的配置选项，它决定了VPA如何应用其提供的资源建议。根据不同的设置，VPA可以采取不同的策略来更新Pod的资源配置： Off：VPA不会应用任何资源...

文章 2024-08-29 来自：开发者社区

Kubernetes 自动伸缩策略：优化资源利用率

在现代云原生环境中，应用的流量往往具有不可预测性。为了应对这种变化，Kubernetes 提供了多种自动伸缩机制来动态调整应用实例的数量和每个实例分配的资源。本文将深入探讨两种主要的自动伸缩工具：水平 Pod 自动伸缩器 (HPA) 和垂直 Pod 伸缩器 (VPA)，并提供实际的应用示例。水平 Pod 自动伸缩器 (HPA) 水平 Po...