【从零开始学习深度学习】50.Pytorch_NLP项目实战：卷积神经网络textCNN在文本情感分类的运用
首先导入实验所需的包和模块。 import os import torch from torch import nn import torchtext.vocab as Vocab import torch.utils.data as Data import torch.nn.fun...
【从零开始学习深度学习】49.Pytorch_NLP项目实战：文本情感分类---使用循环神经网络RNN
同上一篇文章中的搜索近义词和类比词一样，文本分类也属于词嵌入的下游应用。本文，我们将应用预训练的词向量和含多个隐藏层的双向循环神经网络，来判断一段不定长的文本序列中包含的是正面还是负面的情绪。 导入所需的包或模块。 import collections import os im...
【从零开始学习深度学习】37. 深度循环神经网络与双向循环神经网络简介
1. 深度循环神经网络 之前介绍的循环神经网络只有一个单向的隐藏层，在深度学习应用里，我们通常会用到含有多个隐藏层的循环神经网络，也称作深度循环神经网络。下图演示了一个有L LL个隐藏层的深度循环神经网络，每个隐藏状态不断传递至当前层的下一时间步和当前时间步的下一层。 ...
【从零开始学习深度学习】36. 门控循环神经网络之长短期记忆网络（LSTM）介绍、Pytorch实现LSTM并进行训练预测
1 长短期记忆介绍 LSTM 中引入了3个门，即输入门（input gate）、遗忘门（forget gate）和输出门（output gate），以及与隐藏状态形状相同的记忆细胞（某些文献把记忆细胞当成一种特殊的隐藏状态），从而记录额外的信息。 1.1 输入门、遗忘门和输出门 与门控循环单元中的重置门和更新门一样，如下图所示，长短期记忆的门的输入均为当前时间步输入Xt与...
【从零开始学习深度学习】35. 门控循环神经网络之门控循环单元（gated recurrent unit，GRU）介绍、Pytorch实现GRU并进行训练预测
1. 门控循环单元设计 门控循环单元的设计在原始RNN的基础上引入了重置门（reset gate）和更新门（update gate）的概念，从而修改了循环神经网络中隐藏状态的计算方式。 1.1 重置门和更新门 如下图所示，门控循环单元中的重置门和更新门的输入均为当前时间步输入Xt与上一时间步隐藏状态Ht−1，输出由激活函数为sigmoid函数的全连接层计算得到。 ...
【从零开始学习深度学习】32. 卷积神经网络之稠密连接网络（DenseNet）介绍及其Pytorch实现
稠密连接网络（DenseNet）是在ResNet网络的基础上进行改进的。对比如下： 上图中将部分前后相邻的运算抽象为模块A AA和模块B BB。与ResNet的主要区别在于，DenseNet里模块B BB的输出不是像ResN...
【从零开始学习深度学习】31. 卷积神经网络之残差网络（ResNet）介绍及其Pytorch实现
和之前介绍的批量归一化层作用类似，残差网络（ResNet）提出的主要目的也是为了优化深度神经网络中数值稳定性问题。 1. 残差块介绍 假设输入为x，希望学出的理想映射为f(x)。下图左右为普通网络结构与加入残差连接的网络对比。右侧是ResNet残差网络的基础块，即残差块（residual block）。在残差块中，输入可通过跨层的数据线路更快地向前传播。 ...
【从零开始学习深度学习】30. 神经网络中批量归一化层（batch normalization）的作用及其Pytorch实现
通常，对于较浅层的神经网路，对输入数据进行标准化预处理就已经很有效果了，但是当神经网络的层数过多时，即使输入数据已做标准化，训练中模型参数的更新依然很容易造成靠近输出层输出的剧烈变化。这种计算数值的不稳定性通常令我们难以训练出有效的深度模型。 批量归一化（batch normalization）层的主要目的是在模型训练时，批量归一化利用小批量上的均值和标准差，不断调整神经网络中间输出，从...
【从零开始学习深度学习】29.卷积神经网络之GoogLeNet模型介绍及用Pytorch实现GoogLeNet模型【含完整代码】
GoogLeNet网络架构于2014年由Google团队提出，并且在2014年的ImageNet图像识别挑战赛中大放异彩 。GoogLeNet吸收了NiN中网络串联网络的思想，并在此基础上做了很大改进。在随后几年GoogLeNet经历了从v1、v2、v3、v4几个版本的改进过程。本文主要介绍最基础的GoogLeNet v1网络架构。 1. Inception 块的基础结构 **G...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。