谷歌、阿里、腾讯等在大规模图神经网络上必用的GNN加速算法(三)
3.Subgraph sampling3.1 cluster-GCN论文标题:Cluster-GCN: An Efficient Algorithm for Training Deep and Large Graph Convolutional Networks论文来源:KDD2019论文方向:图卷积网络论文链接:https://arxiv.org/abs/1905.07953**主要思路:**....
谷歌、阿里、腾讯等在大规模图神经网络上必用的GNN加速算法(二)
2.Layer-wise sampling2.1 FastGCN论文标题:FastGCN: fast learning with graph convolutional networks via importance sampling论文来源:ICLR2018论文方向:图卷积网络论文链接:https://arxiv.org/abs/1801.10247我们已知,GCN的形式为:从积分的角度看待图....
谷歌、阿里、腾讯等在大规模图神经网络上必用的GNN加速算法(一)
今天我们来聊一聊在大规模图神经网络上必用的GNN加速算法。GNN在图结构的任务上取得了很好的结果,但由于需要将图加载到内存中,且每层的卷积操作都会遍历全图,对于大规模的图,需要的内存和时间的开销都是不可接受的。现有一些用于加速GNN的算法,基本思路是使用mini-batch来计算,用min-batch的梯度估计full-batch的梯度,通过多次迭代达到基本一致的效果。根据使用的方法不同,大致分....
【图神经网络DGL】消息传递范式
一、消息传递范式聚合函数和更新函数。1.1 内置函数和消息传递API(1)API属性介绍消息函数:接受一个参数 edges,这是一个 dgl.EdgeBatch 的实例, 在消息传递时,它被DGL在内部生成以表示一批边。edges有三个成员属性:src、dst和data,分别用于访问源节点、目标节点和边的特征。聚合函数:接受一个参数 nodes,这是一个 NodeBatch 的实例, 在消息传递....
【图神经网络DGL】GCN应用于Karate Club
一、题目描述Karate club是一个社交网络,包括34个成员,并在俱乐部外互动的成员之间建立成对链接。 俱乐部随后分为两个社区,由教员(节点0)和俱乐部主席(节点33)领导。 网络以如下方式可视化,并带有表示社区的颜色(如下图)。任务:预测给定社交网络本身每个成员倾向于加入哪一侧的社区(0或33)。二、步骤2.1 在DGL中创建网络图这里可以复习上一节的【图神经网络DGL】数据封装和消息传递....
【图神经网络DGL】数据封装和栗子
一、DGL简介和安装DGL支持深度学习框架Pytorch、MXNet、tensorflow等,如果使用Pytorch则需要1.5.0版本以上。安装就一句:conda install -c dglteam dgl-cuda10.1如果遇到报错:An unexpected error has occurred. Conda has prepared the above report.可以使用cond....
【图神经网络DGL】消息传递范式
一、消息传递范式聚合函数和更新函数。1.1 内置函数和消息传递API(1)API属性介绍消息函数:接受一个参数 edges,这是一个 dgl.EdgeBatch 的实例, 在消息传递时,它被DGL在内部生成以表示一批边。edges有三个成员属性:src、dst和data,分别用于访问源节点、目标节点和边的特征。聚合函数:接受一个参数 nodes,这是一个 NodeBatch 的实例, 在消息传递....
业界盘点|为什么推荐算法都开始结合图神经网络了?(三)
8. 亚马逊NIRec论文标题:An Efficient Neighborhood-based Interaction Model for Recommendation on Heterogeneous Graph论文来源:KDD2020, Amazon论文目标:介绍了early summarization问题(在预测前将结点和邻居信息压缩到一个向量中),并提出模型解决图的构建方法:普通异构图模....
业界盘点|为什么推荐算法都开始结合图神经网络了?(二)
3. 阿里EGES论文标题:Billion-scale Commodity Embedding for E-commerce Recommendation in Alibaba论文来源:KDD2018,Alibaba论文目标:将图表示学习应用到推荐中,初步解决scalability, sparsity and cold start等问题图数据的构建方法:session-based users’ ....
业界盘点|为什么推荐算法都开始结合图神经网络了?(一)
大家好,我是对白。图神经网络(GNN)相信大家也不陌生了,在还没有Graph Embedding之前,节点的属性信息可以通过Item2vec这种序列化Embedding的方式去学习,效果虽然不错,但它忽略了节点的结构信息。而GNN能够自然地整合节点属性信息和拓扑结构信息,因此在许多领域广泛应用。在推荐系统中,目前的主要挑战是从用户-物品交互以及辅助信息中学习有效的User-Item Embedd....
本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。