阿里云文档 2025-01-14

ACK集群成本管理最佳实践

集群成本调优旨在经济高效地利用集群资源,减少不必要的开支。为了实现集群成本调优,工作负载和集群的稳定性、可靠性以及集群运维成本三者之间的平衡,本文为您汇总了相关的最佳实践,包括如何以较低成本配置集群、使用工作负载和节点的弹性能力、实时监控集群成本等。

文章 2025-01-02 来自:开发者社区

容器服务Kubernetes场景下可观测体系生产级最佳实践

K8s的容器化带来了灵活的调度,例如快速的故障自愈,但也带来了诸多复杂度。对于很多客户团队(如infer团队或CTO)而言,成败在于是否能够利用手段构建运维体系。可观测性是构建运维体系的核心能力之一。阿里云容器服务团队在2024年gaterner继续蝉联亚洲唯一的全球领导者象限。根据2022年Forrester分析师报告,可观测是整个容器平台里是最重要的运维核心能力之一,该报告对阿里云容器服务可....

阿里云文档 2024-11-01

AI模型推理服务在Knative中最佳配置实践

Knative和AI结合提供了快速部署、高弹性和低成本的技术优势,适用于需要频繁调整计算资源的AI应用场景,例如模型推理等。您可以通过Knative Pod部署AI模型推理任务,配置自动扩缩容、灵活分配GPU资源等功能,提高AI推理服务能力和GPU资源利用率。

阿里云文档 2024-11-01

AI模型推理服务在Knative中最佳配置实践

Knative和AI结合提供了快速部署、高弹性和低成本的技术优势,适用于需要频繁调整计算资源的AI应用场景,例如模型推理等。您可以通过Knative Pod部署AI模型推理任务,配置自动扩缩容、灵活分配GPU资源等功能,提高AI推理服务能力和GPU资源利用率。

阿里云文档 2024-10-17

在Windows节点池中部署工作负载的最佳实践

您可以将待部署的Windows应用制作成Docker镜像,便于后续在集群中部署工作负载时进行拉取。镜像制作完成后,您可以在ACK集群中创建Windows节点池,并将镜像部署到Windows节点上。

阿里云文档 2024-08-23

Fluid数据缓存优化策略最佳实践

在计算与存储分离的架构下,使用Fluid数据缓存技术,能够有效解决在Kubernetes集群中访问存储系统数据时容易出现的高延迟及带宽受限问题,从而提升数据处理效率。本文从性能维度、稳定性维度、读写一致性维度介绍如何使用Fluid数据缓存策略。

文章 2024-07-17 来自:开发者社区

阿里云容器服务ACK报警中心快速构建运维体系最佳实践

根据CNCF社区发布的年度统计,Kubernetes已经成为主流工业界的云原生基础设施平台。在Kubernetes上的真实业务环境,建立成熟稳定的运维体系至关重要,然而用户在“正值壮年”的Kubernetes生态中往往会遇到:容器监控体系复杂,学习成本高,监控报警配置碎片化严重;传统运维体系不能生搬套用;问题如何快速路由到正确的运维人员等等问题。本文介绍基于阿里云容器服务ACK报警中心如何快速构....

阿里云容器服务ACK报警中心快速构建运维体系最佳实践
文章 2024-06-12 来自:开发者社区

容器服务 ACK 大模型推理最佳实践系列一:TensorRT-LLM

【阅读原文】戳:容器服务 ACK 大模型推理最佳实践系列一:TensorRT-LLM 在ACK中使用KServe部署Triton+TensorRT-LLM。本教程以Llama-2-7b-hf模型为例,演示如何在ACK中使用KServe部署Triton框架。Triton采用TensorRT-LLM后端。     背景介绍 &nb...

容器服务 ACK 大模型推理最佳实践系列一:TensorRT-LLM
问答 2024-02-14 来自:开发者社区

容器服务ACKvue 的静态资源有打包到docker,发到ack的最佳实践吗? 建议这样搞吗 ?

容器服务ACKvue 的静态资源有打包到docker,发到ack的最佳实践吗? 建议这样搞吗 ?

文章 2023-09-12 来自:开发者社区

26场技术分享,阿里云容器服务负责人易立领衔带来容器、AI、Serverless、中间件最佳实践

由Linux基金会、云原生计算基金会(CNCF)主办的 KubeCon+CloudNativeCon+Open Source Summit China 2023 终于来了!多年来,阿里云持续投入开源、贡献开源。在自主开源方面,过去十多年,阿里累计开源项目超过3000个,覆盖大数据、AI 、数据库、中间件、容器技术、硬件等多个领域,代表性的项目包括龙蜥操作系统、Apache RocketMQ、Ap....

26场技术分享,阿里云容器服务负责人易立领衔带来容器、AI、Serverless、中间件最佳实践

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐