SMoA: 基于稀疏混合架构的大语言模型协同优化框架
在大语言模型(LLM)快速发展的背景下，研究者们越来越关注如何通过多代理系统来增强模型性能。传统的多代理方法虽然避免了大规模再训练的需求，但仍面临着计算效率和思维多样性的挑战。本文提出的稀疏代理混合(Sparse Mixture-of-Agents, SMoA)框架，通过借鉴稀疏专家混合(Sparse Mixture-of-Experts, SMoE)的设计理念，有效解决了这些问题。 基础架构：....
AI通信加速库DeepNCCL的架构、性能以及优化原理
DeepNCCL是为阿里云神龙异构产品开发的一种用于多GPU互联的AI通信加速库，在AI分布式训练或多卡推理任务中用于提升通信效率。本文主要介绍DeepNCCL的架构、优化原理和性能说明。
函数计算 GB 镜像秒级启动：下一代软硬件架构协同优化揭秘
作者：修踪审核&校对：Chang Shuai、望宸编辑&排版：雯燕背景函数计算在 2020 年 8 月创新地提供了容器镜像的函数部署方式。AWS Lambda 在 2020 年 12 月 Re-Invent，国内其他 FaaS 提供商在 2021 年 6 月也相继宣布了 FaaS 支持容器的重磅功能。冷启动一直都是 FaaS 的痛点，引入比代码压缩包大几十倍的容器镜像后冷启动恶化....
函数计算GB镜像秒级启动：下一代软硬件架构协同优化揭秘
一 背景函数计算在2020年8月创新地提供了容器镜像的函数部署方式。AWS Lambda在2020年12月Re-Invent，国内其他FaaS提供商在2021年6月也相继宣布了FaaS支持容器的重磅功能。冷启动一直都是FaaS的痛点，引入比代码压缩包大几十倍的容器镜像后冷启动恶化便成为开发者最大的担忧。函数计算在支持容器镜像的设计阶段就决定要让开发者像使用代码包（秒级弹性能力）一样的体验使用镜.....
函数计算GB镜像秒级启动：下一代软硬件架构协同优化揭秘
作者 | 修踪 来源 | 阿里技术公众号一 背景函数计算在2020年8月创新地提供了容器镜像的函数部署方式。AWS Lambda在2020年12月Re-Invent，国内其他FaaS提供商在2021年6月也相继宣布了FaaS支持容器的重磅功能。冷启动一直都是FaaS的痛点，引入比代码压缩包大几十倍的容器镜像后冷启动恶化便成为开发者最大的担忧。函数计算在支持容器镜像的设计阶段就决定要让开发者像使.....
阿里云上稳定性保障服务(架构优化)
1. 服务概述根据客户的业务需求，从云资产和应用架构的角度帮助客户进行巡检，主动发现潜在风险，提供优化方案建议。2. 服务范围服务范围包含： 阿里云服务与产品功能、云上架构的咨询、使用、配置，提供最佳实践。 与阿里云资源相关的操作或系统问题的技术指导。 与阿里云的管理控制台或其他阿里云官方工具相关的...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
架构更多优化相关
金融级分布式架构
SOFAStack™（Scalable Open Financial Architecture Stack）是一套用于快速构建金融级分布式架构的中间件，也是在金融场景里锤炼出来的最佳实践。
+关注