一阶优化算法启发,北大林宙辰团队提出具有万有逼近性质的神经网络架构的设计方法
在人工智能领域,深度学习技术的发展日新月异,其中神经网络的设计和优化是推动这一领域进步的关键因素。近年来,北京大学的林宙辰团队在这一领域取得了突破性进展,他们提出了一种基于一阶优化算法的神经网络架构设计方法,旨在构建具有万有逼近性质的深度学习模型。这一研究成果不仅为神经网络的设计提供了新的视角,也为解决实际问题提...
中山大学HCP Lab团队:AI解题新突破,神经网络推开数学推理大门(三)
论文 7:Template-based Contrastive Distillation Pre-training for Math Word Problem SolvingJinghui Qin*, Zhicheng Yang*, Jiaqi Chen, Xiaodan Liang and Liang Lin虽然深度学习模型在数学解题领域取得很好的进展,但是这些模型忽视了蕴涵在问题描述中的求解....
中山大学HCP Lab团队:AI解题新突破,神经网络推开数学推理大门(二)
论文5:LogicSolver: Towards Interpretable Math Word Problem Solving with Logical Prompt-enhanced LearningFindings of the Association for Computational Linguistics: EMNLP 2022论文地址:https://arxiv.org/pdf/2....
中山大学HCP Lab团队:AI解题新突破,神经网络推开数学推理大门(一)
本文对中山大学人机物智能融合实验室(HCP Lab)在数学解题领域的一系列研究进行了简要介绍,这些工作主要由 HCP 实验室秦景辉博士等人完成。该系列工作获得国家科技创新 2030 重大项目 “因果推理与决策理论模型研究” 支持。 人类在成长过程的不同阶段均需要掌握很多的知识点来求解大量的数学题。然而,知识点看懂了不算真的懂,能求解题目才能体现人类的智慧。近年来,神经网络在计算机视觉,模式匹配、....
亚马逊团队使用受物理启发的图神经网络,解决组合优化等问题
组合优化问题在科学和工业中普遍存在。现代深度学习工具已准备好以前所未有的规模解决这些问题,但结合统计物理学见解的统一框架仍然很出色。这里,亚马逊量子解决方案实验室的研究人员,展示了如何使用图神经网络来解决组合优化问题。他们的方法广泛适用于以二次无约束二元优化问题形式出现的规范 NP 难问题,如最大割集、最小顶点覆盖、最大独立集,以及以多项式无约束二元优化问题形式出现的 Ising spin gl....
CVPR 2023 | 清华黄高团队提出适配边端和云端的即插即用型高效神经网络网络架构——Slide-Transformer
Title: Slide-Transformer: Hierarchical Vision Transformer with Local Self-AttentionPaper: https://arxiv.org/pdf/2304.04237.pdfCode: https://github.com/LeapLabTHU/Slide-Transformer导读众所周知,ViT 取得良好性能的一个....
一劳永逸—MIT韩松团队开源神经网络的高效部署
引言本文为大家介绍一篇神经网络压缩方面相关的经典论文,由MIT 韩松团队发表于ICLR 2020的论文《Once-for-All: Train One Network and Specialize it for Efficient Deployment》.本文是通过一种 Once for All 的网络,可高效生成 10^19 独立工作的子网络以便适配到不同的硬件平台,包括服务器端各种不同的GP....
超快、超低能耗!北大团队提出基于卷积神经网络的全光计算
编辑/凯霞随着先进工程计算、经济数据分析和云计算的快速发展,对超高速和高能效计算的需求呈指数级增长。现有的冯诺依曼架构下的传统电子信号处理器难以同时实现高速和低能耗。使用光子作为信息载体是一种很有前景的选择。由于传统材料的三阶非线性光学较弱,在传统冯诺依曼架构下构建集成光子计算芯片一直是一个挑战。近日,由北京大学物理学院龚旗煌研究团队提出了一种基于卷积神经网络(CNN)实现超快超低能耗全光计算芯....
Twitter团队最新研究:快速高效的可扩展图神经网络SIGN
今天给大家介绍的是Twitter研究团队发表的一篇论文,该研究针对大规模图神经网络训练的问题,提出的一种新的结构更加简单的模型——SIGN,这种模型的提出使得计算复杂度大大降低,能够有效地处理大规模图结构,在多个开放的数据集上与主流的模型进行评估对比,SIGN更具有竞争优势。1背景在图上进行的深度学习,也称为几何深度学习(GDL)或者图表示学习(GRL),在短短几年的时间就从最初的籍籍无名发展成....
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。