阿里云文档 2025-04-11

在ACK托管集群(智能模式)中部署工作负载并实现负载均衡

本文介绍如何在ACK托管集群(智能模式)中部署一个工作负载,并通过ALB Ingress实现公网访问。完成后,您可以通过设定的域名访问该应用,实现外部流量的高效管理和负载均衡。

阿里云文档 2025-04-01

在ACK中使用KTransformers部署DeepSeek-R1模型

KTransformers框架实现了多种LLM推理优化,进一步减少了推理阶段的显存占用,从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。

阿里云文档 2025-03-19

使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务

为解决DeepSeek推理服务对GPU规格需求越来越高的问题,您可以通过ACK Edge集群管理本地IDC的GPU机器,并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行,当本地IDC GPU资源不足时,任务将自动调度至云上的ACS Serverless GPU,满足业务扩展需求的同时降低成本。

阿里云文档 2025-03-14

使用ECI部署QwQ-32B

本文以部署QwQ-32B模型为例,演示如何使用数据缓存快速部署QwQ-32B模型。通过数据缓存提前拉取QwQ-32B模型数据,然后在部署QwQ-32B模型推理服务时直接挂载模型数据,可以免去在实例中拉取模型数据的等待时间,加速QwQ-32B部署。

文章 2024-08-02 来自:开发者社区

阿里云容器化管理云上应用一键部署评测报告

随着云计算技术的飞速发展,企业数字化转型的步伐日益加快,应用上云已成为不可逆转的趋势。在这一过程中,如何高效地管理云上应用,实现资源的灵活调度与应用的快速迭代,成为企业关注的焦点。容器化技术,特别是以Kubernetes为核心的容器编排系统,因其强大的自动化部署、弹性扩展、高可用性及丰富的社区生态,成为了企业上云的首选方案。阿里云容器服务Kubernetes版(ACK)作为阿里云在容器化领域的旗....

阿里云容器化管理云上应用一键部署评测报告
文章 2024-07-04 来自:开发者社区

阿里云容器服务Kubernetes版(ACK)部署与管理体验评测

体验报告:阿里云容器服务Kubernetes版(ACK)部署与管理体验评测 引言 在现代软件开发和运维领域,容器化和微服务架构已经成为一种趋势。随着企业数字化转型的加速,云计算平台,特别是支持容器技术的平台,成为IT基础设施的核心部分。阿里云容器服务Kubernetes版(ACK)作为阿里云提供的一种托管的Kubernetes服务,对于企业来说是一个值得考虑的选择。本次体验旨在深入了解A...

阿里云容器服务Kubernetes版(ACK)部署与管理体验评测
文章 2024-04-28 来自:开发者社区

Serverless 应用引擎产品使用之阿里函数计算中,阿里云容器镜像服务(Container Registry)中创建自定义镜像,然后将其部署到FC上如何解决

问题一:阿里函数计算中我在代码里设置了自定义的密钥别名,是不是setup插件也需要设置密钥别名? 阿里函数计算中我在代码里设置了自定义的密钥别名,但是构建的时候依然用了default,是不是流水线的@serverless-cd/s-setup插件也需要设置密钥别名? ...

Serverless 应用引擎产品使用之阿里函数计算中,阿里云容器镜像服务(Container Registry)中创建自定义镜像,然后将其部署到FC上如何解决
文章 2024-04-16 来自:开发者社区

阿里云超大规模边缘容器云助力应用全球化部署

在全球业务拓展的浪潮下,企业追求全球化不仅意味着市场的扩张,也代表着技术实力的较量。边缘容器云作为企业实现全球战略的重要支撑,正在被越来越多富有远见的企业所采用。它们依托于边缘容器云的技术,将应用部署于世界各地,以期在保证极致用户体验的同时,实现敏捷响应市场变化。透过边缘容器云,这些企业得以突破传统数据中心的限制,克服地理和网络延迟的挑战,顺应全球数据治理的趋势,从而在复杂多变的国际市场中抢占先....

阿里云超大规模边缘容器云助力应用全球化部署
问答 2024-01-17 来自:开发者社区

阿里云ARMS的zgc 的这个最大堆内存 为什么在容器是部署在eci上的时候, 会少300M呢?

阿里云ARMS的zgc 的这个最大堆内存 为什么在容器是部署在eci上的时候, 会少300M呢?同样的8g limit 的容器,最大堆内存配置为55%时, 部署在ecs上pod 显示是4.4g 部署到eci上时,就显示4.1g

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云容器服务 ACK

云端最佳容器应用运行环境,安全、稳定、极致弹性

+关注