阿里云文档 2025-01-13

基于Knative部署vLLM推理应用

传统的基于GPU利用率的弹性伸缩策略无法准确反映大模型推理服务的实际负载情况,即使GPU利用率达到了100%,也不一定表明系统正处在高负荷运行状态。Knative提供的自动扩缩容机制KPA(Knative Pod Autoscaler)能够根据QPS或RPS来调整资源分配,更直接地反映推理服务的性能表现。本文以Qwen-7B-Chat-Int8模型、GPU类型为V100卡为例,介绍如何在Knati...

阿里云文档 2024-12-19

通过云效流水线使用K8s YAML文件部署应用至SAE

您可以通过云效流水线从源码仓库构建镜像,并使用K8s YAML文件自动部署SAE应用。本文将通过简单的示例演示上述流程,并引导您将其用于实际业务。

阿里云文档 2024-12-19

通过云效流水线使用K8s YAML文件部署应用至SAE

您可以通过云效流水线从源码仓库构建镜像,并使用K8s YAML文件自动部署SAE应用。本文将通过简单的示例演示上述流程,并引导您将其用于实际业务。

问答 2024-12-03 来自:开发者社区

开源PolarDB-X|K8s 部署报错

K8s 部署报这个错误是什么原因kubectl create -f polarx_lite.yamlError from server (InternalError): error when creating "polarx_lite.yaml": Internal error occurred: failed calling webhook "polardbxcluster-mutate.po....

阿里云文档 2024-11-01

AI模型推理服务在Knative中最佳配置实践

Knative和AI结合提供了快速部署、高弹性和低成本的技术优势,适用于需要频繁调整计算资源的AI应用场景,例如模型推理等。您可以通过Knative Pod部署AI模型推理任务,配置自动扩缩容、灵活分配GPU资源等功能,提高AI推理服务能力和GPU资源利用率。

阿里云文档 2024-10-17

在Windows节点池中部署工作负载的最佳实践

您可以将待部署的Windows应用制作成Docker镜像,便于后续在集群中部署工作负载时进行拉取。镜像制作完成后,您可以在ACK集群中创建Windows节点池,并将镜像部署到Windows节点上。

问答 2024-03-19 来自:开发者社区

生产环境自建 PolarDB-X 有 用k8s部署的吗?

生产环境自建 PolarDB-X 有 用k8s部署的吗?

问答 2024-01-10 来自:开发者社区

PolarDB-X 上在k8s中部署polardbx 我缩容的时候 一直卡在这个状态怎么解决?

PolarDB-X 上在k8s中部署polardbx 我缩容的时候 一直卡在这个状态 有什么解决办法吗 ?在集群里面已经看不见了

问答 2024-01-09 来自:开发者社区

PolarDB-X 上k8s 部署后使用这个kind 有没有呀?

PolarDB-X 上k8s 部署后使用这个kind 有没有呀?

问答 2023-02-19 来自:开发者社区

PolarDB-X中k8s部署模式下能实现嘛?

PolarDB-X中k8s部署模式下能实现嘛?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

容器服务

国内唯一 Forrester 公共云容器平台领导者象限。

+关注
相关镜像