阿里云文档 2025-10-23

在ACK集群中使用Gateway with Inference Extension路由外部MaaS服务

当 ACK 集群对接外部 MaaS 服务(如百炼)时,为统一处理 API 密钥和请求路径,可基于AI推理网关(Gateway with Inference Extension),配置路由规则(HTTPRoute),实现请求凭证的自动注入及URL重写,从而快速集成模型服务。

阿里云文档 2025-10-17

为GPU应用配置节点自动伸缩

在进行AI模型训练、推理或科学计算等GPU计算密集型任务时,工作负载常呈现显著波动,同时GPU硬件成本较高。通过为集群创建支持自动伸缩的GPU节点池,可根据实际资源需求动态增减节点数量,实现按需使用与弹性调度,有效提升GPU资源利用率并降低运维成本。

阿里云文档 2025-10-17

使用DRA调度GPU

在AI训练和推理场景中,当多个应用需要共享GPU资源时,为突破传统设备插件的调度限制,可在ACK集群中部署NVIDIA DRA驱动,通过Kubernetes DRA API实现Pod间GPU动态分配与细粒度资源控制,提升GPU利用率并降低成本。

阿里云文档 2025-09-29

在ACK中实现AI内容安全合规审查

在ACK上运行生成式AI服务时,为实现内容合规性审查,可利用Gateway API推理扩展配置ACKTrafficFilter插件对接阿里云内容安全审核服务,从而在网关层自动拦截不当内容,满足相关监管和法规要求。

阿里云文档 2025-09-25

配置混合云节点池DNS解析

混合云节点池如通过云上CoreDNS解析域名,频繁的访问会加重专线负载,还可能出现因专线不稳定导致的域名解析失败,配置NodeLocal DNSCache可减少这些问题的影响。

文章 2024-08-23 来自:开发者社区

在K8S中,集群内有个节点not ready,如何排查?

在Kubernetes(K8s)集群中,如果有一个节点处于"Not Ready"状态,这可能意味着该节点无法接受新的工作负载或存在其他问题。具体分析如下: 检查节点状态 使用基本命令查看节点状态:需要确认节点确实处于“未就绪”状态。使用kubectl get nodes命令可以列出所有节点的状态。例如,您可能会看到以下输出: ...

文章 2024-08-19 来自:开发者社区

实时计算 Flink版产品使用问题之部署到 Kubernetes 集群时,任务过一会儿自动被取消,该如何排查

问题一:实时计算 Flink版有没有clickhouse的连接器分享下呗? 实时计算 Flink版有没有clickhouse的连接器分享下呗? 参考答案: 如果您需要在Flink中连接ClickHouse数据库,您可以考虑以下几种方法: 1.自定义连接器: 您可以尝试自己开发一个连接ClickHouse的Flink连接器。Flink提供了创建自...

实时计算 Flink版产品使用问题之部署到 Kubernetes 集群时,任务过一会儿自动被取消,该如何排查
问答 2024-06-15 来自:开发者社区

应用实时监控服务k8s集群产生大量499告警如何排查

应用实时监控服务k8s集群产生大量499告警如何排查

问答 2024-06-10 来自:开发者社区

ACK集群Pod异常问题排查

ACK集群Pod异常问题排查

问答 2024-06-09 来自:开发者社区

ACK集群节点异常问题排查

ACK集群节点异常问题排查

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云容器服务 ACK

云端最佳容器应用运行环境,安全、稳定、极致弹性

+关注