基于ACK多机分布式部署DeepSeek满血版推理部署实战
本文深入解析基于阿里云容器服务ACK的DeepSeek-R1-671B大模型分布式推理实战方案。针对该千亿参数模型（671B）单卡显存不足的挑战，提出混合并行策略（Pipeline Parallelism=2 + Tensor Parallelism=8），结合阿里云Arena工具，实现在2台ecs.ebmgn8v.48xlarge（8*96GB）节点上的高效分布式部署。进一步演示如何将部署于AC...
设置Slurm队列优先级
为了更有效地管理和分配资源，优化作业调度，提升系统利用率，并满足多样化的作业需求，队列成为任务调度中不可或缺的配置项。合理的队列设置能够确保高优先级的任务优先获得所需资源，从而最大化资源利用效率。本文介绍在Slurm系统环境下，当出现作业提交或作业状态变化时，如何通过恰当的队列配置策略来实现尽可能多的任务调度处理，以达到最佳性能。
Slurm用户及账户配置推荐设置
Slurm提供的账户与用户可被用于管理任务提交以及计费统计。本文主要介绍如何在Slurm集群中正确配置账户和用户，包括创建、修改和删除账户及用户的方法，并深入探讨如何以账户为单位来有效地跟踪和统计任务所消耗的资源量，从而帮助企业或研究机构更好地管理和优化其计算资源的使用效率。
基于ComfyUI编排文生图workflow
ComfyUI是一款开源的图形化AI工作流工具，专注于简化生成式模型（如Stable Diffusion）的开发和部署流程。其基于节点化设计，您可通过拖放模块快速搭建图像生成、文本处理等复杂流程，支持本地与云端部署。本文将介绍如何基于阿里云产品完成ComfyUI的本地安装，包括环境配置、依赖安装及基础使用等步骤。
探索云原生技术：容器化与微服务架构的融合之旅
随着云计算技术的不断进步，云原生（Cloud Native）已经成为现代软件开发的重要趋势。云原生技术强调在云环境中构建和运行应用程序，充分利用云平台的弹性和分布式特性。在众多云原生技术中，容器化和微服务架构是两个核心概念，它们相互促进共同推动了软件开发和运维模式的革新。 容器化是一种轻量级的虚拟化技术ÿ...
云原生之旅：从容器化到微服务
在数字化时代，软件开发和部署的方式正在经历一场革命。云原生技术，作为一种充分利用云计算模型的优势来构建和运行应用程序的方法，已经成为这场革命的中心。云原生的核心在于构建可在云环境中伸缩的松耦合服务，同时确保系统的弹性、可维护性和可观察性。 容器化：云原生的基石 容器技术，尤其是Docker，已成为现...
云原生入门：从容器到微服务
在当今的软件开发领域，云原生已经成为了一种趋势。它不仅改变了我们构建和部署应用的方式，还为我们提供了更高的灵活性、可扩展性和可靠性。那么，什么是云原生呢？简单来说，云原生是一种利用云计算资源构建和运行应用程序的方法，它强调了应用程序的可移植性、弹性和自动化管理。 在云原生的世界里，容器技术是非常重要...
云原生入门：Kubernetes 和容器化基础
在当今快速发展的技术世界中，云计算已成为企业和个人不可或缺的一部分。随着技术的发展，我们见证了从传统的服务器托管到虚拟化技术，再到现在的云原生应用的巨大转变。云原生是一种构建和运行应用程序的方法，它充分利用了云计算的灵活性、可扩展性和冗余性。在这篇文章中，我们将重点介绍两个核心概念：Kubernetes和容器化。...
云原生之旅：从传统架构到容器化服务的演变
在数字化时代的浪潮中，企业对于IT基础设施的要求越来越高，他们需要的是能够快速响应市场变化、支持业务的快速增长和创新的技术解决方案。传统的IT架构往往难以满足这些需求，因为它们通常涉及复杂的集成和长期的部署周期。而云原生技术的兴起，正是为了解决这些问题。 云原生是一种构建和运行应用程序的方法，它充分利用了云计算的优势ÿ...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
阿里云云原生
关注云原生中间件、微服务、Serverless、容器、Service Mesh等技术领域、聚焦云原生技术趋势、云原生大规模的落地实践
+关注