阿里云文档 2025-03-19

使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务

为解决DeepSeek推理服务对GPU规格需求越来越高的问题,您可以通过ACK Edge集群管理本地IDC的GPU机器,并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行,当本地IDC GPU资源不足时,任务将自动调度至云上的ACS Serverless GPU,满足业务扩展需求的同时降低成本。

阿里云文档 2025-03-10

使用ACS GPU算力构建QwQ-32B模型推理服务

在使用容器计算服务 ACS(Container Compute Service)算力时,您无需深入了解底层硬件,也无需涉及GPU节点管理和配置即可开箱即用。ACS部署简单、支持按量付费,非常适合用于LLM推理任务,可以有效降低推理成本。本文介绍如何使用ACS GPU算力部署生产可用的QwQ-32B模型推理服务。

阿里云文档 2025-02-27

使用ACS GPU算力构建DeepSeek满血版模型推理服务

在使用容器计算服务 ACS(Container Compute Service)算力时,您无需深入了解底层硬件,也无需涉及GPU节点管理和配置即可开箱即用。ACS部署简单、支持按量付费,非常适合用于LLM推理任务,可以有效降低推理成本。本文介绍如何使用ACS算力部署生产可用的DeepSeek满血版模型推理服务。

阿里云文档 2025-02-19

ACK One注册集群使用ACS GPU算力构建DeepSeek蒸馏模型推理服务

DeepSeek是一款基于深度学习的智能推理模型,因其在自然语言处理和图像识别等领域的卓越表现而迅速受到了广泛关注。无论是企业级应用还是学术研究,DeepSeek都展现出了强大的潜力。然而,随着其应用场景的不断扩展,数据中心的算力瓶颈问题逐渐凸显。为应对这一挑战,阿里云推出了ACK One注册集群为企业提供灵活、高效的解决方案。通过将本地数据中心的Kubernetes集群接入ACK One注册集群...

阿里云文档 2025-02-13

在Knative服务中基于Fluid加速大模型推理服务Pod启动

Fluid是一个开源的、Kubernetes原生的分布式数据集编排和加速引擎,主要应用于云原生场景下的数据密集型应用,例如大数据应用、AI应用等。本文介绍如何在Knative中基于Fluid加速模型推理服务Pod的启动,以提升应用响应效率。

问答 2024-06-25 来自:开发者社区

容器服务ACK有个小项目,如果用云效的话,构建服务的机器配置是可申请的嘛?

容器服务ACK有个小项目,想试试graalvm做二进制包。镜像制作是一小部分,graalvm的构建太占cpu,想通过ECI来动态申请高配机器做构建,构建后通过kaniko做镜像。如果用云效的话,构建服务的机器配置是可申请的嘛?之前使用ACR做过容器内构建,一个java模块20分钟实在太长

问答 2022-04-15 来自:开发者社区

使用阿里云容器服务部署多个php项目时,每个应用跑同样的服务不会浪费资源吗?

比如我部署两个wordpress应用,每个应用下面都有 web 和 db 两个服务,这里相当于每个php项目都配套了apache和mysql,似乎有点浪费?为什么不只跑一个apache 和 mysql 容器,提供给两个应用去连接?为了不增加重复的容器开销,我是否可以选择在一个应用里边部署两个php项目?可是这样的话如果这两个项目是不同的人员开发的,编排镜像好像也不太方便……有点迷茫,求多个php....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

容器服务

国内唯一 Forrester 公共云容器平台领导者象限。

+关注