阿里云文档 2025-03-10

使用ACS GPU算力构建QwQ-32B模型推理服务

在使用容器计算服务 ACS(Container Compute Service)算力时,您无需深入了解底层硬件,也无需涉及GPU节点管理和配置即可开箱即用。ACS部署简单、支持按量付费,非常适合用于LLM推理任务,可以有效降低推理成本。本文介绍如何使用ACS GPU算力部署生产可用的QwQ-32B模型推理服务。

阿里云文档 2025-02-27

使用ACS GPU算力构建DeepSeek满血版模型推理服务

在使用容器计算服务 ACS(Container Compute Service)算力时,您无需深入了解底层硬件,也无需涉及GPU节点管理和配置即可开箱即用。ACS部署简单、支持按量付费,非常适合用于LLM推理任务,可以有效降低推理成本。本文介绍如何使用ACS算力部署生产可用的DeepSeek满血版模型推理服务。

阿里云文档 2025-02-19

ACK One注册集群使用ACS GPU算力构建DeepSeek蒸馏模型推理服务

DeepSeek是一款基于深度学习的智能推理模型,因其在自然语言处理和图像识别等领域的卓越表现而迅速受到了广泛关注。无论是企业级应用还是学术研究,DeepSeek都展现出了强大的潜力。然而,随着其应用场景的不断扩展,数据中心的算力瓶颈问题逐渐凸显。为应对这一挑战,阿里云推出了ACK One注册集群为企业提供灵活、高效的解决方案。通过将本地数据中心的Kubernetes集群接入ACK One注册集群...

阿里云文档 2025-02-13

在Knative服务中基于Fluid加速大模型推理服务Pod启动

Fluid是一个开源的、Kubernetes原生的分布式数据集编排和加速引擎,主要应用于云原生场景下的数据密集型应用,例如大数据应用、AI应用等。本文介绍如何在Knative中基于Fluid加速模型推理服务Pod的启动,以提升应用响应效率。

阿里云文档 2025-02-12

容器ACK服务通过云防火墙实现网络访问控制最佳实践

本文介绍 ACK 集群同步节点、ACK 地址簿在 NAT 防火墙中对频繁改变 IP 地址的集群节点进行自动访问控制的最佳实践。

文章 2022-02-17 来自:开发者社区

免费试用!容器集群监控利器 阿里云 Prometheus 服务正式商业化

阿里云Prometheus服务将在2020年1月6日正式开启商业化,商业化之后,阿里云Prometheus服务致力于提供更加稳定、高效、优惠的Prometheus托管一站式服务,现在接入更有15天免费试用。15天免费试用地址,点击这里。 产品文档,点击这里。 Prometheus介绍 Prometheus 是云原生领域最受认可的监控解决方案,在 2016 年加入 CNCF 基金会后,成为继 K8....

免费试用!容器集群监控利器 阿里云 Prometheus 服务正式商业化
文章 2022-02-17 来自:开发者社区

弹性容器实例服务 ECI 1月22日正式商业化收费

为了应对业务高峰,打算提前多久执行ECS扩展?买了ECS虚拟机,容器规格不能完美装箱怎么办?OS又出patch了,什么时候升级?如何降低系统的运行成本? 近日,阿里云宣布弹性容器实例 ECI(Elastic Container Instance)正式商业化,该产品将在1月22日上午10:00结束公测,进行商业化收费。收费详情ECI 是阿里云践行普惠的云计算理念,将 Serverless 和 C.....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

容器服务

国内唯一 Forrester 公共云容器平台领导者象限。

+关注