阿里云文档 2025-04-27

在ACK中使用KTransformers部署DeepSeek-R1模型

KTransformers框架实现了多种LLM推理优化,进一步减少了推理阶段的显存占用,从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。

阿里云文档 2025-04-27

在ACK托管集群(智能托管模式)中部署工作负载并实现负载均衡

本文介绍如何在ACK托管集群(智能托管模式)中部署一个工作负载,并通过ALB Ingress实现公网访问。完成后,您可以通过设定的域名访问该应用,实现外部流量的高效管理和负载均衡。

阿里云文档 2025-03-19

使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务

为解决DeepSeek推理服务对GPU规格需求越来越高的问题,您可以通过ACK Edge集群管理本地IDC的GPU机器,并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行,当本地IDC GPU资源不足时,任务将自动调度至云上的ACS Serverless GPU,满足业务扩展需求的同时降低成本。

阿里云文档 2025-03-14

使用ECI部署QwQ-32B

本文以部署QwQ-32B模型为例,演示如何使用数据缓存快速部署QwQ-32B模型。通过数据缓存提前拉取QwQ-32B模型数据,然后在部署QwQ-32B模型推理服务时直接挂载模型数据,可以免去在实例中拉取模型数据的等待时间,加速QwQ-32B部署。

问答 2023-08-29 来自:开发者社区

容器服务ACK有没云效流水线陪孩子vue的容器部署到ack的示例?

容器服务ACK有没云效流水线陪孩子vue的容器部署到ack的示例?

问答 2023-07-25 来自:开发者社区

另git代码,通过云效,我怎么要进行构建成镜像 到 镜像容器里面,再部署到 eada呀?

另git代码,通过云效,我怎么要进行构建成镜像 到 镜像容器里面,再部署到 eada呀?我目前是本地编译上传target/*.jar 到源代码库,然后通过dockerfile 文件来搞得。

问答 2023-07-19 来自:开发者社区

请问7月份云效有啥变更吗?现在一个容器部署多个应用的,都发布不成功了。

请问7月份云效有啥变更吗?现在一个容器部署多个应用的,都发布不成功了,而且,appStack发布到集群后,就分成多个容器了。

问答 2022-04-15 来自:开发者社区

云效使用指南:持续交付:概述:典型场景:通过容器服务部署Web应用

当在创建向导中选择了创建Web应用,并选择了通过容器服务部署时,有如下配置请检查修改或添加: 构建配置 源代码根目录下的.release文件是构建的配置。一般来说,它已经自动生成好,特定情况需要进一步补充。注意其中不仅要构建产生包,还要进一步生成Docker image。请参考 Docker镜像构建配置。构建配置的更多内容请从[构建配置概述] https://help.aliyun.co...

问答 2018-12-10 来自:开发者社区

云效容器部署+容器swarm部署php项目

容器服务swarm创建了容器,如nginx+php容器部署也需要创建容器么?还是直接部署代码到每个容器中?可以讲解下原理么?

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云容器服务 ACK

云端最佳容器应用运行环境,安全、稳定、极致弹性

+关注