使用ACS GPU算力构建QwQ-32B模型推理服务
在使用容器计算服务 ACS（Container Compute Service）算力时，您无需深入了解底层硬件，也无需涉及GPU节点管理和配置即可开箱即用。ACS部署简单、支持按量付费，非常适合用于LLM推理任务，可以有效降低推理成本。本文介绍如何使用ACS GPU算力部署生产可用的QwQ-32B模型推理服务，并通过Open WebUI页面进行展示。
通过ACK Gateway with Inference Extension访问服务
Gateway API是Kubernetes官方项目，是下一代Kubernetes路由和负载均衡API，支持通过Gateway API配置流量规则。本文介绍ACK Gateway with Inference Extension支持的一些Gateway API基础能力配置方法。
在ACK中使用KTransformers部署DeepSeek-R1模型
KTransformers框架实现了多种LLM推理优化，进一步减少了推理阶段的显存占用，从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。
使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务
为解决DeepSeek推理服务对GPU规格需求越来越高的问题，您可以通过ACK Edge集群管理本地IDC的GPU机器，并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行，当本地IDC GPU资源不足时，任务将自动调度至云上的ACS Serverless GPU，满足业务扩展需求的同时降低成本。
ACK One注册集群使用ACS GPU算力构建DeepSeek蒸馏模型推理服务
DeepSeek是一款基于深度学习的智能推理模型，因其在自然语言处理和图像识别等领域的卓越表现而迅速受到了广泛关注。无论是企业级应用还是学术研究，DeepSeek都展现出了强大的潜力。然而，随着其应用场景的不断扩展，数据中心的算力瓶颈问题逐渐凸显。为应对这一挑战，阿里云推出了ACK One注册集群为企业提供灵活、高效的解决方案。通过将本地数据中心的Kubernetes集群接入ACK One注册集群...
请问容器服务ACK使用alb ingress的时候访问依赖服务，怎么拿到ecs ip？
请问容器服务ACK使用alb ingress的时候访问依赖服务，依赖服务拿到的是ip是pod ip，怎么拿到ecs ip？
容器服务ACK通过ingress 访问的服务，怎么停服务好些啊？
容器服务ACK通过ingress 访问的服务，怎么停服务好些啊？直接修改ingress 的域名方式可以吗？
容器服务ACK的Nginx Ingress暴露容器的服务端口，有绑定公网IP的吗？
容器服务ACK的Nginx Ingress暴露容器的服务端口，有绑定公网IP的吗？
k8s容器云架构之dubbo微服务—K8S(05)核心插件-ingress(服务暴露)控制器-traefik
1 K8S两种服务暴露方法前面通过coredns在k8s集群内部做了serviceNAME和serviceIP之间的自动映射,使得不需要记录service的IP地址,只需要通过serviceNAME就能访问POD但是在K8S集群外部,显然是不能通过serviceNAME或serviceIP来解析服务的要在K8S集群外部来访问集群内部的资源,需要用到服务暴露功能1.1 K8S常用的两种服务暴露方法....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
容器更多服务相关
阿里云容器服务 ACK
云端最佳容器应用运行环境，安全、稳定、极致弹性
+关注