深入解析图神经网络注意力机制：数学原理与可视化实现
在图神经网络（Graph Neural Networks, GNNs）的发展历程中，注意力机制扮演着至关重要的角色。通过赋予模型关注图中最相关节点和连接的能力，注意力机制显著提升了GNN在节点分类、链接预测和图分类等任务上的性能。尽管这一机制的重要性不言而喻，但其内部工作原理对许多研究者和工程师而言仍是一个"黑盒"。 本文旨在通过可视化方法和数学推导，揭示图神经网络自注意力层的内部运作机制。我们....
KAN干翻MLP，开创神经网络新范式！一个数十年前数学定理，竟被MIT华人学者复活了
在深度学习领域，多层感知机（MLP）一直占据着重要地位。然而，最近来自MIT的华人学者提出了一种名为Kolmogorov-Arnold网络（KAN）的新型神经网络，它可能正在改变这一格局。 KAN的提出源于Kolmogorov-Arnold表示定理，这是一个在20世纪50年代由苏联数学...
卷积神经网络（CNN）的数学原理解析
前言 本篇主要分享卷积神经网络（CNN）的数学原理解析，会让你加深理解神经网络如何工作于CNNs。出于建议，这篇文章将包含相当复杂的数学方程，如果你不习惯线性代数喝微分也没事，目的不是记住这些公式，而是对下面发生的事情有一个直观的认识。 可视化和注释的完整源码： GitHub：https://github.com/SkalskiP/ILearnDeepLearning.p...
7 Papers & Radios | 用神经网络推开数学推理大门；世界首个宏基因组蛋白质图谱
本周重要论文包括中山大学人机物智能融合实验室（HCP Lab）在数学解题领域的一系列研究，以及 Meta AI 用 150 亿参数语言模型预测 6 亿+宏基因组蛋白质结构图谱。目录：Semantically-Aligned Universal Tree-Structured Solver for Math Word ProblemsGeoQA: A Geometric Question Answ....
中山大学HCP Lab团队：AI解题新突破，神经网络推开数学推理大门（三）
论文 7：Template-based Contrastive Distillation Pre-training for Math Word Problem SolvingJinghui Qin*, Zhicheng Yang*, Jiaqi Chen, Xiaodan Liang and Liang Lin虽然深度学习模型在数学解题领域取得很好的进展，但是这些模型忽视了蕴涵在问题描述中的求解....
中山大学HCP Lab团队：AI解题新突破，神经网络推开数学推理大门（二）
论文5：LogicSolver: Towards Interpretable Math Word Problem Solving with Logical Prompt-enhanced LearningFindings of the Association for Computational Linguistics: EMNLP 2022论文地址：https://arxiv.org/pdf/2....
中山大学HCP Lab团队：AI解题新突破，神经网络推开数学推理大门（一）
本文对中山大学人机物智能融合实验室（HCP Lab）在数学解题领域的一系列研究进行了简要介绍，这些工作主要由 HCP 实验室秦景辉博士等人完成。该系列工作获得国家科技创新 2030 重大项目 “因果推理与决策理论模型研究” 支持。 人类在成长过程的不同阶段均需要掌握很多的知识点来求解大量的数学题。然而，知识点看懂了不算真的懂，能求解题目才能体现人类的智慧。近年来，神经网络在计算机视觉，模式匹配、....
【Pytorch神经网络理论篇】 02 Pytorch快速上手（二）GPU与CPU张量切换+具有随机值的张量+张量的数学运算
同学你好！本文章于2021年末编写，获得广泛的好评！故在2022年末对本系列进行填充与更新，欢迎大家订阅最新的专栏，获取基于Pytorch1.10版本的理论代码(2023版)实现，Pytorch深度学习·理论篇(2023版)目录地址为：CSDN独家 | 全网首发 | Pytorch深度学习·理论篇(2023版)目录本专栏将通过系统的深度学习实例，从可解释性的角度对深度学习的原理进行讲解与分析，通....
图神经网络的数学原理总结
图深度学习(Graph Deep Learning) 多年来一直在加速发展。许多现实生活问题使GDL成为万能工具：在社交媒体、药物发现、芯片植入、预测、生物信息学等方面都显示出了很大的前景。本文将流行的图神经网络及其数学细微差别的进行详细的梳理和解释，图深度学习背后的思想是学习具有节点和边的图的结构和空间特征，这些节点和边表示实体及其交互。图在我们进入图神经网络之前，让我们先来探索一下计算机科学....
人工神经网络背后的数学原理！（下）
这里与一元函数有几点不同：首先，二元函数描述的是一个自变量和两个因变量之间的关系，也就是说函数的定义域是一个二维平面，我们要找的极值点就在这个二维平面上。其次，由于是在二维平面上寻找极值点，我们每一步可以选择的方向不再局限于一维时的向左或向右，而是瞬间变成了无穷多个方向。因此，枚举试探法彻底宣告失效。还好我们有更智能的梯度下降法。一元梯度定义式里的导数现在已经换成了多元函数的偏导数。好了，现在算....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。