阿里云容器容器服务Kubernetes版的相关内容

阿里云文档 2025-10-23

在ACK集群中使用Gateway with Inference Extension路由外部MaaS服务

当 ACK 集群对接外部 MaaS 服务（如百炼）时，为统一处理 API 密钥和请求路径，可基于AI推理网关（Gateway with Inference Extension），配置路由规则（HTTPRoute），实现请求凭证的自动注入及URL重写，从而快速集成模型服务。

阿里云文档 2025-10-17

为GPU应用配置节点自动伸缩

在进行AI模型训练、推理或科学计算等GPU计算密集型任务时，工作负载常呈现显著波动，同时GPU硬件成本较高。通过为集群创建支持自动伸缩的GPU节点池，可根据实际资源需求动态增减节点数量，实现按需使用与弹性调度，有效提升GPU资源利用率并降低运维成本。

阿里云文档 2025-10-17

使用DRA调度GPU

在AI训练和推理场景中，当多个应用需要共享GPU资源时，为突破传统设备插件的调度限制，可在ACK集群中部署NVIDIA DRA驱动，通过Kubernetes DRA API实现Pod间GPU动态分配与细粒度资源控制，提升GPU利用率并降低成本。

阿里云文档 2025-09-29

在ACK中实现AI内容安全合规审查

在ACK上运行生成式AI服务时，为实现内容合规性审查，可利用Gateway API推理扩展配置ACKTrafficFilter插件对接阿里云内容安全审核服务，从而在网关层自动拦截不当内容，满足相关监管和法规要求。

阿里云文档 2025-09-25

配置混合云节点池DNS解析

混合云节点池如通过云上CoreDNS解析域名，频繁的访问会加重专线负载，还可能出现因专线不稳定导致的域名解析失败，配置NodeLocal DNSCache可减少这些问题的影响。

文章 2025-09-09 来自：开发者社区

关于阿里云 Kubernetes 容器服务（ACK）添加镜像仓库的快速说明

由于最近docker从docker.io拉取镜像好像被GFW屏蔽了，所以从中国大陆拉取docker镜像需要通过镜像仓库。由于我的工作集群在中国大陆地区的阿里云，因此也遇到了镜像拉取的问题。环境请注意，我的 Kubernetes 集群仍为 1.2x 版本，containerd 版本也是 1.2x，并且由于我没有直接 SSH ...

文章 2025-02-28 来自：开发者社区

基于阿里云容器服务（ACK）的微服务架构设计与实践

基于阿里云容器服务（ACK）的微服务架构设计与实践随着云原生技术的快速发展，微服务架构已成为构建现代化分布式应用的主流选择。阿里云容器服务 Kubernetes 版（ACK）提供了强大的容器编排能力，帮助企业高效构建、部署和管理微服务应用。本文将深入探讨如何基于阿里云ACK设计和实现一个高可用、可扩展的微服务架...

文章 2025-02-26 来自：开发者社区

基于阿里云容器服务Kubernetes版（ACK）的微服务架构设计与实践

引言随着云计算技术的快速发展，云原生（Cloud Native）已经成为现代应用开发的主流趋势。云原生不仅仅是一种技术，更是一种构建和运行应用程序的方法论。它强调利用云计算的优势，如弹性、可扩展性和自动化，来加速应用的开发、部署和运维。阿里云作为国内领先的云服务提供商，提供了丰富的云原生服务&#x...

文章 2024-12-25 来自：开发者社区

OpenAI故障复盘 - 阿里云容器服务与可观测产品如何保障大规模K8s集群稳定性

【阅读原文】戳：OpenAI故障复盘 - 阿里云容器服务与可观测产品如何保障大规模K8s集群稳定性本文作者：容器服务团队：刘佳旭、冯诗淳可观测团队：竺夏栋、麻嘉豪、隋吉智 1. 前言 Kubernetes(K8s)架构已经是当今IT架构的主流与事实标准（CNCF Survey...

文章 2024-09-07 来自：开发者社区

使用 NVIDIA NIM 在阿里云容器服务（ACK）中加速 LLM 推理

大语言模型（LLM）是近年来发展迅猛并且激动人心的热点话题，引入了许多新场景，满足了各行各业的需求。随着开源模型能力的不断增强，越来越多的企业开始尝试在生产环境中部署开源模型，将 AI 模型接入到现有的基础设施，优化系统延迟和吞吐量，完善监控和安全等方面。然而要在生产环境中部署这一套模型推理服务过程复杂且耗时。为了简化流程，帮助企业客户加速部署生成式 AI 模型，本文结合 **NVIDIA NI....