文章 2024-12-08 来自:开发者社区

【AI系统】计算图优化架构

本文将会介绍推理引擎转换中的图优化模块,该模块负责实现计算图中的各种优化操作,包括算子融合、布局转换、算子替换和内存优化等,以提高模型的推理效果。计算图是一种表示和执行数学运算的数据结构,在机器学习和深度学习中,模型的训练和推理过程通常会被表示成一个复杂的计算图,其中节点代表运算操作,边代表数据(通常是张量)在操作之间的流动。 计算图优化是一种重要的技术,主要目标是提高计算效率和减少内存占用,通....

【AI系统】计算图优化架构
阿里云文档 2024-11-06

如何使用主键增列功能优化高并发IM系统架构

介绍如何使用表格存储的主键增列功能优化高并发IM系统架构。

阿里云文档 2024-05-09

AI通信加速库DeepNCCL的架构、性能以及优化原理

DeepNCCL是为阿里云神龙异构产品开发的一种用于多GPU互联的AI通信加速库,在AI分布式训练或多卡推理任务中用于提升通信效率。本文主要介绍DeepNCCL的架构、优化原理和性能说明。

文章 2022-02-17 来自:开发者社区

谷歌深度学习找到 AI 芯片关键路径,机器学习开始用于优化芯片架构

Google Brain 总监 Jeff Dean 曾指出,在某些情况下,人工智能的深度学习形式在如何布置芯片中的电路方面可以比人类做出更好的决策。本月,谷歌在 arXiv 文件服务器上发表了一篇名为“ Apollo: Transferable Architecture Exploration”的论文。Apollo 计划代表了一种有趣的发展,它超越了 Jeff Dean 一年前所讲的东西。相比之....

阿里云文档 2020-08-18

阿里云上稳定性保障服务(架构优化)

1. 服务概述根据客户的业务需求,从云资产和应用架构的角度帮助客户进行巡检,主动发现潜在风险,提供优化方案建议。2. 服务范围服务范围包含: 阿里云服务与产品功能、云上架构的咨询、使用、配置,提供最佳实践。 与阿里云资源相关的操作或系统问题的技术指导。 与阿里云的管理控制台或其他阿里云官方工具相关的...

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

金融级分布式架构

SOFAStack™(Scalable Open Financial Architecture Stack)是一套用于快速构建金融级分布式架构的中间件,也是在金融场景里锤炼出来的最佳实践。

+关注