神经架构搜索：自动化设计神经网络的方法
引言 在人工智能（AI）和深度学习（Deep Learning）快速发展的背景下，神经网络架构的设计已成为一个日益复杂而关键的任务。传统上，研究人员和工程师需要通过经验和反复试验来手动设计神经网络，耗费大量时间和计算资源。随着模型规模的不断扩大，这种方法显得愈加低效和不够灵活。为了解决这一挑战，神经架构搜索（Neural Architecture Search，NAS）应运而...
神经网络的基本概念、架构和训练方法
神经网络是一种由多个神经元按照一定的拓扑结构相互连接而成的计算模型。其灵感来自于人类大脑中神经元之间的相互作用。 在过去的几十年里，神经网络一直是人工智能领域中的热门研究方向之一。随着深度学习的兴起，神经网络的应用越来越广泛。本文将详细介绍神经网络的基本概念、架构和训练方法。 基本概念 神经元 神经元是神经网络的基本组成单元。它接收输入信号，通过对输入信号的处理产生输出信号。每个神经元都...
[深度学习入门]什么是神经网络？[神经网络的架构、工作、激活函数]
一、前言 在大多数资料中，神经网络都被描述成某种正向传播的矩阵乘法。而本篇博文通过将神经网络描述为某种计算单元，以一种更加简单易懂的方式介绍神经网络的功能及应用。二、神经网络的架构——以手写数字识别 广义上讲，神经网络就是要在输入数据中找寻某种规律，就像这个经典的例子：手写数字识别。即给定一个手写数字图像，如何识别图像中的是数字几呢？神经网络通过对大量带标签图像的训练，找....
![[深度学习入门]什么是神经网络？[神经网络的架构、工作、激活函数]](https://ucc.alicdn.com/pic/developer-ecology/u4n2puyxrj26a_391330b2e3e64307a81bd65a90b63e99.png)
架构瓶颈原则：用注意力probe估计神经网络组件提供多少句法信息
本文中，剑桥和 ETH Zurich 的研究者从一个新的角度探讨了 probing，不关心模型编码了多少信息，而是关心它的组件可以提取多少信息。然后使用 V-information 来量化这个数量。通过评估流行的 transformer 语言模型注意力机制，该研究发现关于句子的语法树信息大部分都可以由模型提取。然而，对于随机初始化的 transformer 模型而言，情况并非如此。因此，该研究得....
一种新的神经形态计算架构，可以更有效地运行深度神经网络
随着人工智能和深度学习技术变得越来越先进，工程师将需要创建能够可靠且高效地运行其计算的硬件。受人脑结构和生物学启发的神经形态计算硬件，在支持复杂的深度神经网络（DNN）的操作方面可能有巨大前景。基于尖峰的神经形态硬件有望实现比 GPU 等标准硬件更节能的 DNN。但这需要我们了解如何在基于事件的稀疏触发机制中模拟 DNN，否则会失去能量优势。特别是，解决序列处理任务的 DNN 通常使用长短期记忆....
图如何双曲建模？弗吉尼亚理工Amazon最新WWW2022「双曲神经网络：理论、架构和应用」教程
【新智元导读】TheWebConf即将召开，来自弗吉亚理工和亚马逊等学者的《双曲神经网络》教程，值得关注！TheWebConf是中国计算机学会（CCF）推荐的A类国际学术会议，由国际万维网会议委员会（IW3C2）和主办地地方团队合作组织，每年召开一次，今年是第31届会议，本年度论文录用率为17.7%，图是普遍存在的数据结构，广泛应用于许多数据存储场景，包括社交网络、推荐系统、知识图谱和电子商务。....
神经网络推理加速入门——分层存储架构
大家好啊，我是董董灿。本篇介绍一个计算机中的部件——存储器，看完之后，你将了解存储器是什么以及存储器在AI计算中的作用。在介绍之前，先说一个我今天早晨的事儿。7点起来晨跑，突然发现已经到深秋了，凉飕飕的，感觉是时候换一波秋冬的衣服了。于是开始翻箱倒柜，花了好大一会儿，终于在衣柜的最深处，找到了去年冬季跑步的衣服，口袋里还装着去年的口罩。找到衣服之后，我突然盯着衣柜看了半天，发现：衣柜的设计确实....
ResNext架构解析：深度神经网络的聚合残差变换
1、简介 我们提出了一种用于图像分类的简单、高度模块化的网络架构。我们的网络是通过重复一个构建块来构建的，该构建块聚合了一组具有相同拓扑的转换。我们简单的设计产生了一个同构的多分支架构，只需设置几个超参数。这个策略暴露了一个新的维度，我们称之为“基数”（转换集的大小），作为除了深度和宽度维度之外的重要因素。在 ImageNet-1K 数据集上，我们凭经验表明，即使在保持复杂性的限制条件下，增加....
72 页 PPT，带你梳理神经网络完整架构（含 PyTorch 代码）
今天带来一份由 Santiago Pascual de la Puente 整理和总结的一份 72 页 PPT。这份 PPT 总结了如今主要的神经网络架构及其组成，含 PyTorch 实现代码片段！在线地址：https://docs.google.com/presentation/d/1MFhet5q-SIPqc_54CXWiBvlT9OdSi6P8kpkm6IxuyEM/edit#slide=....
深度 | 卷积神经网络架构详解：它与神经网络有何不同？
这是作者在 Medium 上介绍神经网络系列文章中的一篇，他在这里详细介绍了卷积神经网络。卷积神经网络在图像识别、视频识别、推荐系统以及自然语言处理中都有很广的应用。如果想浏览该系列文章，可点击阅读原文查看原文网址。 跟神经网络一样，卷积神经网络由神经元构成，这些神经元带有可学习的权重和偏差（bias）。每个神经元接收若干输入，并对输入进行加权求和，然后通过一个激活功能将它们传递出去，再用一...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
金融级分布式架构
SOFAStack™（Scalable Open Financial Architecture Stack）是一套用于快速构建金融级分布式架构的中间件，也是在金融场景里锤炼出来的最佳实践。
+关注