阿里云文档 2025-04-27

在ACK中使用KTransformers部署DeepSeek-R1模型

KTransformers框架实现了多种LLM推理优化,进一步减少了推理阶段的显存占用,从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。

阿里云文档 2025-04-27

在ACK托管集群(智能托管模式)中部署工作负载并实现负载均衡

本文介绍如何在ACK托管集群(智能托管模式)中部署一个工作负载,并通过ALB Ingress实现公网访问。完成后,您可以通过设定的域名访问该应用,实现外部流量的高效管理和负载均衡。

文章 2025-04-17 来自:开发者社区

容器化爬虫部署:基于K8s的任务调度与自动扩缩容设计

摘要随着业务复杂度提升,单纯依靠定时任务和手工扩缩容已无法满足高并发、实时性和资源利用效率需求。本篇文章比较了两种基于 Kubernetes 的容器化爬虫调度与扩缩容方案:一种是利用 Kubernetes 原生的 CronJob 与 Horizontal Pod Autoscaler(HPA);另一种是基于 KEDAÿ...

容器化爬虫部署:基于K8s的任务调度与自动扩缩容设计
阿里云文档 2025-03-19

使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务

为解决DeepSeek推理服务对GPU规格需求越来越高的问题,您可以通过ACK Edge集群管理本地IDC的GPU机器,并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行,当本地IDC GPU资源不足时,任务将自动调度至云上的ACS Serverless GPU,满足业务扩展需求的同时降低成本。

阿里云文档 2025-03-14

使用ECI部署QwQ-32B

本文以部署QwQ-32B模型为例,演示如何使用数据缓存快速部署QwQ-32B模型。通过数据缓存提前拉取QwQ-32B模型数据,然后在部署QwQ-32B模型推理服务时直接挂载模型数据,可以免去在实例中拉取模型数据的等待时间,加速QwQ-32B部署。

问答 2024-06-10 来自:开发者社区

请问看下容器服务ACK这样一个场景:非ack下,ecs中部署了k8s集群,会自动关联创建slb吗?

请问看下容器服务ACK这样一个场景:非ack下,ecs中部署了k8s集群,ingress service的type是loadbalancer,会自动关联创建slb吗?

问答 2023-08-22 来自:开发者社区

容器服务ACK部署k8s超过集群flanel插件32个,后来改成64个,然后就报错,怎么解决?

容器服务ACK部署k8s超过集群flanel插件32个,后来改成64个,然后就报错,怎么解决?failed to delegate add: failed to allocate for range 0: no IP addresses available in range set: 10.38.0.1-10.38.0.30.

问答 2023-07-19 来自:开发者社区

容器服务ACK部署的k8s,可以像ecs运维一样,设置定时关闭开启吗?

容器服务ACK部署的k8s,可以像ecs运维一样,设置定时关闭开启吗?

文章 2023-02-21 来自:开发者社区

容器实验班开课!30 分钟学会使用 Kubectl 部署 web 服务到 K8s 集群

2023 年 2 月 6 日—3 月 5 日,由阿里云云起实验室发起的「上云第一课,开年实验班」活动正在火热进行中。通过课程讲师实验+带练的形式,让您在专业指导下基于业务场景深入体验云场景,快速晋级为专业的“云上开发者”。2月16日 00:00,容器专场课程即将开启。您可以通过 PC 端登陆下方活动页面,在「云原生及大数据专期」点击“立即参与”按钮进行实验。本次直播课程将在阿里云云原生视频号、阿....

容器实验班开课!30 分钟学会使用 Kubectl 部署 web 服务到 K8s 集群

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云容器服务 ACK

云端最佳容器应用运行环境,安全、稳定、极致弹性

+关注