在ACK中使用KTransformers部署DeepSeek-R1模型
KTransformers框架实现了多种LLM推理优化，进一步减少了推理阶段的显存占用，从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。
在ACK托管集群（智能托管模式）中部署工作负载并实现负载均衡
本文介绍如何在ACK托管集群（智能托管模式）中部署一个工作负载，并通过ALB Ingress实现公网访问。完成后，您可以通过设定的域名访问该应用，实现外部流量的高效管理和负载均衡。
使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务
为解决DeepSeek推理服务对GPU规格需求越来越高的问题，您可以通过ACK Edge集群管理本地IDC的GPU机器，并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行，当本地IDC GPU资源不足时，任务将自动调度至云上的ACS Serverless GPU，满足业务扩展需求的同时降低成本。
使用ECI部署QwQ-32B
本文以部署QwQ-32B模型为例，演示如何使用数据缓存快速部署QwQ-32B模型。通过数据缓存提前拉取QwQ-32B模型数据，然后在部署QwQ-32B模型推理服务时直接挂载模型数据，可以免去在实例中拉取模型数据的等待时间，加速QwQ-32B部署。
Docker容器化实战：构建并部署一个简单的Web应用
本文将指导读者如何通过Docker容器化一个简单的Web应用，从编写Dockerfile到在Docker Hub上发布镜像，再到在本地或云服务器上部署。适合对Docker基础有一定了解，希望进一步实践容器化技术的开发者。 内容示例： Docker容器化技术已经成为现代软件开发和部署不可或缺的一部分。它允许开发者将应用及其依赖打包成一个独立的...
利用容器化技术实现跨平台部署的Web应用开发
随着云计算和DevOps文化的兴起，容器化技术成为了现代应用开发和部署的主流选择之一。容器化技术能够将应用程序及其依赖项打包到一个独立的、可移植的容器中，从而实现了跨平台、轻量级和一致性的部署。在本文中，我们将介绍如何利用容器化技术来开发和部署Web应用。 容器化的优势 容器化技术带来了许多优势，包括： 环境一致性...
云效使用指南：持续交付：概述：典型场景：通过容器服务部署Web应用
当在创建向导中选择了创建Web应用，并选择了通过容器服务部署时，有如下配置请检查修改或添加： 构建配置 源代码根目录下的.release文件是构建的配置。一般来说，它已经自动生成好，特定情况需要进一步补充。注意其中不仅要构建产生包，还要进一步生成Docker image。请参考 Docker镜像构建配置。构建配置的更多内容请从[构建配置概述] https://help.aliyun.co...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
容器更多部署相关
阿里云容器服务 ACK
云端最佳容器应用运行环境，安全、稳定、极致弹性
+关注