为内存塞不下Transformer犯愁？OpenAI应用AI研究负责人写了份指南（2）
为了推动 N:M 结构稀疏化，需要将一个矩阵的列拆分为 M 列的多个 slide（也称为 stripe），这样可以很容易地观察到每个 stripe 中的列顺序和 stripe 的顺序对 N:M 稀疏化产生的限制。Pool 和 Yu 提出了一种迭代式的贪心算法来寻找最优排列，使 N:M 稀疏化的权重幅度最大化。所有通道对都被推测性地交换，并且只采用幅度增加最大的交换，然后生成新的排列并结束单次迭代....
为内存塞不下Transformer犯愁？OpenAI应用AI研究负责人写了份指南（1）
本文是一篇综述性的博客，探讨总结当下常用的大型 transformer 效率优化方案。大型 Transformer 模型如今已经成为主流，为各种任务创造了 SOTA 结果。诚然这些模型很强大，但训练和使用起来代价非常昂贵。在时间和内存方面存在有极高的推理成本。概括来说，使用大型 Transformer 模型进行推理的难点，除了模型的规模不断扩大外，还有两个不可忽略的地方：内存消耗大：推理时，需要....
ChatGPT 和对话式 AI 的未来：2023 年的进展和应用
人工智能（Artificial Intelligence）在过去一段时间以来以前所未有的速度快速发展。从自动化日常任务到重要提醒的设定，AI以各种方式渗透到我们的生活中。然而，在这个领域中迈出的最重要一步是ChatGPT。ChatGPT被瑞银（UBS）评为“有史以来增长最快的消费者应用程序”，于2022年11月30日正式推出。仅在推出的两个月内，它就成功吸引了超过1亿用户，为对话式人工智能领域创....
AMD Instinct扩大生态系统 为HPC和AI应用程序提供Exascale级技术
3月22日，AMD宣布正式发布AMD Instinct生态系统，其中包括ASUS、Dell Technologies、HPE、Lenovo以及Supermicro在内更广泛的系统支持合作伙伴、全新AMD Instinct MI210加速器以及具备强大功能的ROCm 5软件。结合以上新特性和产品，AMD Instinct以及ROCm生态系统正在为拥有广泛基础的HPC和AI客户提供Exascale级....
5G与AI“点燃”数字应用，云原生重塑数据库未来
进入2023年，5G与AI技术逼近爆发的临界点，即将点燃数字应用的宇宙。以ChatGPT为代表的AI大模型，引发了机器智能的涌现，不仅能够与人类进行创造性对话，还能代替程序员编写代码！而5G全面加速了物理世界的数字化，数字化的世界反过来强化了AI的连接，全球加速形成一台巨大的智能云计算机——科技正在激发人类文明的全新进化。而数据库作为传统基础软件，在即将到来的全新人类文明面前，正处于剧烈变动期。....
如何解释AI做出的决策？一文梳理算法应用场景和可解释性（2）
2.1 方法介绍令ε={P1,...,Pn}表征 n 个病人的数据库。Pj 表征 K 个病人就诊数据记录，Pj = {x_1, . . , x_k}，其中，x_k 发生在时间点 t_k，包含一组描述该次诊疗的医疗变量，考虑到第 j 个病人在时间点 t-1 的病史数据 Pj={x_1, . . . , x_t-1}，我们的任务是预测时间点 t 的 ADE 的发生，并准确地解释为什么使用病人病史的整....
如何解释AI做出的决策？一文梳理算法应用场景和可解释性（1）
本文结合《Explanation decisions made with AI》指南，重点对算法的应用场景和可解释性分析进行了梳理总结。英国的 Information Commissioner’s Office （ICO）和 The Alan-Turing Institute 联合发布了《Explanation decisions made with AI》指南。该指南旨在为机构和组织提供实用建....
阿里达摩院五年磨一剑，重磅推出AI模型社区，直击“AI应用难”
“近十年来，AI的研究发展迅猛，但AI的应用始终是一大难题，使用门槛过高限制了AI的潜能。”阿里巴巴集团资深副总裁、达摩院副院长周靖人表示，AI模型较为复杂，尤其是要应用于行业场景，往往需要重新训练，这使得AI只掌握在少数算法人员手中，难以走向大众化。而新推出的魔搭社区ModelScope，践行模型即服务的新理念（Model as a Service），提供众多预训练基础模型，只需针对具体场景再....
多模态流式 AI 编排平台，大规模减少新应用开发成本
/作者/胡子昊近年来，随着 AI 技术快速发展，已经有越来越多的视觉、语音、自然语言处理等不同模态的智能服务出现在我们的日常生活中，为我们提供丰富的 AI 能力。在每种模态内部，又可根据不同领域被细分为多种不同类别。以语音服务为例，目前已经拥有一句话识别、实时语音识别、录音文件识别、长文本语音合成等多个成熟的智能语音服务。语音识别公共云服务这些语音 AI 服务的整体处理流程类似，但是又有各自的结....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
AI更多应用相关
产品推荐
人工智能平台PAI
人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。
+关注