阿里云文档 2026-03-06

基于ACK集群的Dify组件升级指南

本文主要指导用户将ack-dify从旧版本升级至v1.0.0及以上,首先备份数据,然后通过命令提取并安装插件迁移工具至插件系统,最后验证插件功能是否正常运行,以启用新的插件生态系统。

阿里云文档 2025-08-13

基于ACK多机分布式部署DeepSeek满血版推理部署实战

本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型(671B)单卡显存不足的挑战,提出混合并行策略(Pipeline Parallelism=2 + Tensor Parallelism=8),结合阿里云Arena工具,实现在2台ecs.ebmgn8v.48xlarge(8*96GB)节点上的高效分布式部署。进一步演示如何将部署于AC...

阿里云文档 2025-05-06

Slurm用户及账户配置推荐设置

Slurm提供的账户与用户可被用于管理任务提交以及计费统计。本文主要介绍如何在Slurm集群中正确配置账户和用户,包括创建、修改和删除账户及用户的方法,并深入探讨如何以账户为单位来有效地跟踪和统计任务所消耗的资源量,从而帮助企业或研究机构更好地管理和优化其计算资源的使用效率。

阿里云文档 2025-05-06

设置Slurm队列优先级

为了更有效地管理和分配资源,优化作业调度,提升系统利用率,并满足多样化的作业需求,队列成为任务调度中不可或缺的配置项。合理的队列设置能够确保高优先级的任务优先获得所需资源,从而最大化资源利用效率。本文介绍在Slurm系统环境下,当出现作业提交或作业状态变化时,如何通过恰当的队列配置策略来实现尽可能多的任务调度处理,以达到最佳性能。

阿里云文档 2025-04-27

在ACK中使用KTransformers部署DeepSeek-R1模型

KTransformers框架实现了多种LLM推理优化,进一步减少了推理阶段的显存占用,从而提高推理性能和降低GPU资源成本。本文介绍如何在阿里云容器服务 Kubernetes 版中通过KTransformers实现高效部署671B参数的DeepSeek-R1-Q4_K_M量化模型推理服务。

文章 2024-08-31 来自:开发者社区

云原生入门:Kubernetes的简易部署与应用

云原生技术正改变着我们的开发和部署方式,而Kubernetes(简称K8s)作为其中的佼佼者,已成为许多企业和开发者的首选。今天,我们就来聊聊如何快速入门K8s,让它成为你技术栈中的得力助手。 首先,我们需要了解K8s是什么。简单来说,它是一个开源的容器编排系统,能够帮助...

文章 2024-08-31 来自:开发者社区

云原生技术入门与实践:Kubernetes的简易部署

云原生技术的兴起彻底改变了我们构建、部署和管理应用程序的方式。它让开发和运维团队能够更加高效地协作,同时确保了系统的可伸缩性、可靠性和安全性。在众多云原生工具中,Kubernetes无疑是最受瞩目的一个。 Kubernetes(通常简称为K8s)是一个开源的容器编排系统,它可以自动化地部署、扩展和管理容器化应用。为了让初学者更...

文章 2024-08-31 来自:开发者社区

云原生入门:Kubernetes的简单部署与应用

在当今的IT领域,“云原生”一词已经无处不在。它代表了一种构建和运行应用程序的方法,旨在充分利用云计算模型的优势。云原生应用通常建立在微服务架构之上,并且能够在各种环境中灵活部署和扩展。Kubernetes,作为云原生计算基金会(CNCF)的一个项目,已经成为了容器编排的事实标准。 那么࿰...

文章 2024-08-31 来自:开发者社区

云原生入门:Kubernetes的简易部署与管理

云原生时代的到来,给软件开发和运维带来了革命性的变化。Kubernetes,作为一个开源的容器编排系统,已经成为了云原生生态中不可或缺的一部分。今天,我们就来聊聊如何在Kubernetes上部署和管理应用,以及为什么这很重要。 首先,我们得了解什么是Kubernetes。简单来说,它是一个帮助你自动...

文章 2024-08-28 来自:开发者社区

云原生入门:Kubernetes的简单部署与管理探索Python编程的魔法:从基础到进阶

在数字化时代,云原生技术正改变着软件开发、部署和运营的方式。云原生不仅代表着一种架构模式,更是一种文化和方法论,它鼓励我们构建可在云环境中良好运行并充分利用云资源的应用。 那么,什么是云原生?简而言之,云原生是一种构建和运行应用程序的方法,旨在充分利用云计算模型的优势。这包括了微服务架构、持续交付工...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

阿里云云原生

关注云原生中间件、微服务、Serverless、容器、Service Mesh等技术领域、聚焦云原生技术趋势、云原生大规模的落地实践

+关注