在ACK托管集群(智能模式)中部署工作负载并实现负载均衡
本文介绍如何在ACK托管集群(智能模式)中部署一个工作负载,并通过ALB Ingress实现公网访问。完成后,您可以通过设定的域名访问该应用,实现外部流量的高效管理和负载均衡。
在ACK中使用KTransformers部署DeepSeek-R1模型
KTransformers框架实现了多种LLM推理优化,进一步减少了推理阶段的显存占用,从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。
使用ACK Edge与虚拟节点部署DeepSeek蒸馏模型推理服务
为解决DeepSeek推理服务对GPU规格需求越来越高的问题,您可以通过ACK Edge集群管理本地IDC的GPU机器,并借助集群的虚拟节点快速接入云上ACS Serverless GPU算力。该方案可以使推理任务优先在IDC GPU上运行,当本地IDC GPU资源不足时,任务将自动调度至云上的ACS Serverless GPU,满足业务扩展需求的同时降低成本。
使用ECI部署QwQ-32B
本文以部署QwQ-32B模型为例,演示如何使用数据缓存快速部署QwQ-32B模型。通过数据缓存提前拉取QwQ-32B模型数据,然后在部署QwQ-32B模型推理服务时直接挂载模型数据,可以免去在实例中拉取模型数据的等待时间,加速QwQ-32B部署。
容器部署的nacos,日志是写到文件还是控制台?
容器部署的nacos,日志是写到文件还是控制台,我们现在日志是在文件中的,近期,容器事件频繁报错:ImageGCFailed,就是因为日志文件太多导致的?
【深入浅出Nacos原理及调优】「实战开发专题」采用Docker容器进行部署和搭建Nacos服务以及“坑点”
Docker容器部署Nacos服务 Docker容器是一种轻量级的虚拟化技术,可以将应用程序和其依赖项打包成一个可移植的容器,从而方便进行部署和管理。Nacos是一个开源的服务发现、配置管理和服务管理平台,可以帮助开发人员更好地管理微服务架构中的服务。本文将为您介绍如何使用Docker容器部署和搭建Nacos服务。 安装Docker 在开始之前,需要先安装Docker。D...

安装Docker&镜像容器操作&使用Docker安装部署MySQL,Redis,RabbitMQ,Nacos,Seata,Minio
Docker安装 sudo yum remove dockerdocker-clientdocker-client-latestdocker-commondocker-latestdocker-latest-logrotatedocker-logrotatedocker-engine ...

在容器服务ACK上部署的nacos集群,protocol/raft/目录下的LOG日志可以清理掉吗?
在容器服务ACK上部署的nacos集群,protocol/raft/目录 下的LOG日志可以清理掉吗?目前这几个LOG占的空间还挺大的
通过容器部署nacos集群,nacos启动会产生这么多的pid是什么原因呢?
通过容器部署nacos集群,nacos启动之后就会OOM,通过排查发现容器的pids_limit限制是1024,把这个值限制调大一倍就可以正常启动,nacos启动会产生这么多的pid是什么原因呢?
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。
容器更多部署相关
阿里云容器服务 ACK
云端最佳容器应用运行环境,安全、稳定、极致弹性
+关注