在ACK中使用KTransformers部署DeepSeek-R1模型
KTransformers框架实现了多种LLM推理优化，进一步减少了推理阶段的显存占用，从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。
在ACK托管集群（智能托管模式）中部署工作负载并实现负载均衡
本文介绍如何在ACK托管集群（智能托管模式）中部署一个工作负载，并通过ALB Ingress实现公网访问。完成后，您可以通过设定的域名访问该应用，实现外部流量的高效管理和负载均衡。
使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务
为解决DeepSeek推理服务对GPU规格需求越来越高的问题，您可以通过ACK Edge集群管理本地IDC的GPU机器，并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行，当本地IDC GPU资源不足时，任务将自动调度至云上的ACS Serverless GPU，满足业务扩展需求的同时降低成本。
使用ECI部署QwQ-32B
本文以部署QwQ-32B模型为例，演示如何使用数据缓存快速部署QwQ-32B模型。通过数据缓存提前拉取QwQ-32B模型数据，然后在部署QwQ-32B模型推理服务时直接挂载模型数据，可以免去在实例中拉取模型数据的等待时间，加速QwQ-32B部署。
使用原子主机（Atomic Host）、Ansible 和 Cockpit 部署容器
请注意，我们不能在原子主机上使用 dnf 命令。原子主机并没有设计为通用操作系统，而是更适合容器和其他用途。但在原子主机上设置应用程序和服务仍然非常容易。这篇文章向您展示了如何自动化和简化这个过程。 设置组件 开始之前，请确保你的系统上安装了 Ansible。 sudo dnf -y install ansible 首先，我们需要在原子主机上运行 cockpit 容器。在你的机器上从 h...
《Docker容器：利用Kubernetes、Flannel、Cockpit和Atomic构建和部署》——2.2 容器式Linux系统的Docker配置
本节书摘来自异步社区《Docker容器：利用Kubernetes、Flannel、Cockpit和Atomic构建和部署》一书中的第2章，第2.2节，作者： 【美】Christopher Negus（克里斯托弗•尼格斯）著，更多章节内容可以访问云栖社区“异步社区”公众号查看 2.2 容器式Linux系统的Docker配置 我们使应用程序容器化，不遗余力地使其变小和变高效，但如果最终要将这些容器部....
《Docker容器：利用Kubernetes、Flannel、Cockpit和Atomic构建和部署》——第2章 搭建容器运行时环境 2.1标准Linux系统的Docker配置
本节书摘来自异步社区《Docker容器：利用Kubernetes、Flannel、Cockpit和Atomic构建和部署》一书中的第2章，第2.1节，作者： 【美】Christopher Negus（克里斯托弗•尼格斯）著，更多章节内容可以访问云栖社区“异步社区”公众号查看 第2章 搭建容器运行时环境 自构建之初，Docker就运行在Linux之上。但与虚拟机不同，虚拟机包含了整个操作系统，而容....
《Docker容器：利用Kubernetes、Flannel、Cockpit和Atomic构建和部署》——1.3 探究容器
本节书摘来自异步社区《Docker容器：利用Kubernetes、Flannel、Cockpit和Atomic构建和部署》一书中的第1章，第1.3节，作者： 【美】Christopher Negus（克里斯托弗•尼格斯）著，更多章节内容可以访问云栖社区“异步社区”公众号查看 1.3 探究容器 由于围绕Docker和容器的开发节奏很快，现在任何书籍所能做的最好的就是将你带到一条正确的路上。本书中，....
《Docker容器：利用Kubernetes、Flannel、Cockpit和Atomic构建和部署》——1.2 了解容器的组成
本节书摘来自异步社区《Docker容器：利用Kubernetes、Flannel、Cockpit和Atomic构建和部署》一书中的第1章，第1.2节，作者： 【美】Christopher Negus（克里斯托弗•尼格斯）著，更多章节内容可以访问云栖社区“异步社区”公众号查看 1.2 了解容器的组成 Docker是Docker项目开发的一种容器格式。docker命令能够运行、停止、启动、调查容器，....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
容器更多部署相关
阿里云容器服务 ACK
云端最佳容器应用运行环境，安全、稳定、极致弹性
+关注