阿里云文档 2025-01-13

基于Knative部署vLLM推理应用

传统的基于GPU利用率的弹性伸缩策略无法准确反映大模型推理服务的实际负载情况,即使GPU利用率达到了100%,也不一定表明系统正处在高负荷运行状态。Knative提供的自动扩缩容机制KPA(Knative Pod Autoscaler)能够根据QPS或RPS来调整资源分配,更直接地反映推理服务的性能表现。本文以Qwen-7B-Chat-Int8模型、GPU类型为V100卡为例,介绍如何在Knati...

阿里云文档 2024-12-19

通过云效流水线使用K8s YAML文件部署应用至SAE

您可以通过云效流水线从源码仓库构建镜像,并使用K8s YAML文件自动部署SAE应用。本文将通过简单的示例演示上述流程,并引导您将其用于实际业务。

阿里云文档 2024-12-19

通过云效流水线使用K8s YAML文件部署应用至SAE

您可以通过云效流水线从源码仓库构建镜像,并使用K8s YAML文件自动部署SAE应用。本文将通过简单的示例演示上述流程,并引导您将其用于实际业务。

文章 2024-11-21 来自:开发者社区

Kubernetes集群管理和服务部署实战

核心思想:本文深入讲解了Kubernetes集群的管理和服务部署,帮助读者掌握Kubernetes的核心功能。 目标受众:DevOps工程师、系统管理员,对容器编排有需求。 主要内容: Kubernetes的基本概念和工作原理搭建和管理Kubernetes集群(使用Minikube或kubeadm)...

阿里云文档 2024-11-01

AI模型推理服务在Knative中最佳配置实践

Knative和AI结合提供了快速部署、高弹性和低成本的技术优势,适用于需要频繁调整计算资源的AI应用场景,例如模型推理等。您可以通过Knative Pod部署AI模型推理任务,配置自动扩缩容、灵活分配GPU资源等功能,提高AI推理服务能力和GPU资源利用率。

阿里云文档 2024-10-17

在Windows节点池中部署工作负载的最佳实践

您可以将待部署的Windows应用制作成Docker镜像,便于后续在集群中部署工作负载时进行拉取。镜像制作完成后,您可以在ACK集群中创建Windows节点池,并将镜像部署到Windows节点上。

问答 2024-01-04 来自:开发者社区

云原生 AI 套件中,阿里云的ack服务,部署的代码想要检测宿主机是否有GPU资源,这个有方案么?

云原生 AI 套件中,阿里云的ack服务,部署的代码想要检测宿主机是否有GPU资源,这个有方案么?

问答 2023-12-06 来自:开发者社区

ACK负载的POD都已经运行提供服务了,然后云效部署单一直卡在这里,最后就部署超时了,是啥原因啊?

ACK负载的POD都已经运行提供服务了,然后云效部署单一直卡在这里,最后就部署超时了,是啥原因啊?65d59868fec848aea078d34dc7a72c06

文章 2022-02-17 来自:开发者社区

阿里云Kubernetes服务上搭建jenkins环境并完成应用构建到部署的流水线作业

本文主要演示如何在阿里云Kubernetes服务上快速搭建jenkins持续集成环境,并基于提供的示例应用快速完成应用源码编译、镜像构建和推送以及应用部署的流水线。前置条件已经创建了ACK集群。建议: 建议用户先按照以下文档安装部署ack-jenkins应用, 然后成功运行构建任务示例demo-pipeline, 再依照此构建任务示例改造自己的构建任务配置。1. 快速部署ack-jenkins在....

阿里云Kubernetes服务上搭建jenkins环境并完成应用构建到部署的流水线作业

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

容器服务

国内唯一 Forrester 公共云容器平台领导者象限。

+关注
相关镜像