[帮助文档] ingress故障排查,location配置,Nginx基础知识点

本文介绍关于Nginx基础知识点,Nginx Ingress Controller实现原理,以及相关运维能力。

[帮助文档] 基于KServe为服务配置弹性扩缩容策略

在部署与管理KServe模型服务过程中,需应对模型推理服务面临的高度动态负载波动。KServe通过集成Kubernetes原生的HPA(Horizontal Pod Autoscaler)技术及扩缩容控制器,实现了根据CPU利用率、内存占用情况、GPU利用率以及自定义性能指标,自动灵活地调整模型服务...

容器应用的高弹性架构

9 课时 |
31 人已学 |
免费

容器应用更新与灰度发布

9 课时 |
47 人已学 |
免费

Serverless容器入门和实践案例

1 课时 |
41 人已学 |
免费
开发者课程背景图

[帮助文档] 为KServe配置Prometheus监控以监控模型服务的性能和健康状况

KServe提供了一套默认的Prometheus指标来帮助您监控模型服务的性能和健康状况。本文以Qwen-7B-Chat-Int8模型、GPU类型为V100卡为例,介绍如何为KServe框架配置Prometheus监控。

[帮助文档] 通过配置Annotation对ELB进行的常见配置

通过Service YAML文件中的Annotation(注解),可以实现丰富的负载均衡功能。本文从边缘负载均衡(Edge Load Balancer,ELB)、监听和后端服务器组以及边缘弹性公网IP(边缘EIP)四种资源维度来介绍通过注解可以对ELB进行的常见配置操作。

[帮助文档] 配置MLflow模型仓库

MLflow是一个开源的机器学习生命周期管理平台,可以用来追踪模型训练信息、管理和部署机器学习模型。本文介绍如何为模型管理功能配置MLflow模型仓库。

云原生|kubernetes|pod或容器的安全上下文配置解析

云原生|kubernetes|pod或容器的安全上下文配置解析

前言:安全上下文(Security Context)定义 Pod 或 Container 的特权与访问控制设置。 安全上下文包括但不限于:自主访问控制(Discretionary Access Control): 基于用户 ID(UID)和组 ID(GID) 来判定对对象(例如文件)的访问权限。安全...

文档解读 | K8S中的Pod和容器配置(三)

默认情况下,pod运行没有任何CPU和内存的限制,这意味着系统中的pod可以尽可能多的消耗CPU和内存在pod执行的节点。  基于多种原因,用户可能希望对系统中的单个pod的资源使用量进行限制。 例如: 集群中的每个节点都有2GB内存。集群管理员不同意pod需要超过2GB的内存,因为这个集...

文档解读 | K8S中的Pod和容器配置(二)

接上篇,如何给运行在Kubernetes Pod中的容器分配CPU和RAM资源?     给运行在Kubernetes Pod中的容器分配CPU和RAM资源 开始之前 必须有一个Kubernetes集群,和一个能和集群沟通的kubectl命令行工具。如果你还没有集群,你...

Pod Preset玩转K8S容器时区自动配置

缘由 默认的情况,在K8S里启动一个容器,该容器的设置的时区是UTC0,但是对于很多客户而言,其主机环境并不在UTC0。例如中国客户在UTC8。如果不把容器的时区和主机主机设置为一致,则在查找日志等时候将非常不方便,也容易造成误解。但是K8S以及Docker容器没有一个简便的设置/开关在系统层面做配...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

社区圈子

阿里云容器服务 ACK
阿里云容器服务 ACK
云端最佳容器应用运行环境,安全、稳定、极致弹性
234772+人已加入
加入
相关电子书
更多
智算时代的容器技术演进与实践
容器计算服务 ACS 全新定义容器算力
容器计算服务ACS
立即下载 立即下载 立即下载