文章 2025-08-22 来自:开发者社区

AI 基础知识从 0.6 到 0.7—— 彻底拆解深度神经网络训练的五大核心步骤

沿着 AI 的发展脉络,本系列文章从Seq2Seq到RNN,再到Transformer,直至今日强大的GPT模型,我们将带你一步步深入了解这些关键技术背后的原理与实现细节。无论你是初学者还是有经验的开发者,相信读完这个系列文章后,不仅能掌握Transformer的核心概念,还能对其在整个NLP领域中的位置有一个全面而深刻的认识。那就让我们一起开始这段学习之旅吧! ...

AI 基础知识从 0.6 到 0.7—— 彻底拆解深度神经网络训练的五大核心步骤
文章 2025-04-28 来自:开发者社区

NoProp:无需反向传播,基于去噪原理的非全局梯度传播神经网络训练,可大幅降低内存消耗

反向传播算法自四十年前问世以来一直作为深度学习的基石,然而仍然面临两项关键技术挑战:首先由于必须存储中间激活值用于梯度计算,导致内存消耗显著;其次其本质上的顺序计算特性严重限制了模型在分布式多GPU环境下的并行扩展能力。近期牛津大学、Mila研究所与Google DeepMind的研究团队联合提出了一种名为NoProp的创新方法。该研究成果表明,图像分类模型的训练可以完全不依赖任何形式的全局前向....

NoProp:无需反向传播,基于去噪原理的非全局梯度传播神经网络训练,可大幅降低内存消耗
文章 2025-02-26 来自:开发者社区

DeepSeek生成对抗网络(GAN)的训练与应用

生成对抗网络(Generative Adversarial Networks, GANs)是深度学习领域的一项重要技术,能够生成逼真的图像、音频和文本数据。GANs通过两个神经网络(生成器和判别器)的对抗训练,实现了高质量数据的生成。DeepSeek提供了强大的工具和API,帮助我们高效地训练和应用...

文章 2025-02-09 来自:开发者社区

RT-DETR改进策略【模型轻量化】| 替换骨干网络为EfficientNet v2,加速训练,快速收敛

一、本文介绍 本文记录的是基于 EfficientNet v2 的 RT-DETR轻量化改进方法研究。EfficientNet v2针对EfficientNet v1存在的训练瓶颈,如大图像尺寸训练慢、早期深度卷积层速度慢以及等比例缩放各阶段非最优等情况进行改进,以实现训练速度快、参数效率高和泛化能力好的优势,将其应用到RT-DETR中有望提升模型整体性能,在保证精度的同时降低模型复杂度和训练时....

RT-DETR改进策略【模型轻量化】| 替换骨干网络为EfficientNet v2,加速训练,快速收敛
文章 2025-02-04 来自:开发者社区

YOLOv11改进策略【模型轻量化】| 替换骨干网络为EfficientNet v2,加速训练,快速收敛

一、本文介绍 本文记录的是基于 EfficientNet v2 的 YOLOv11 轻量化改进方法研究。EfficientNet v2针对EfficientNet v1存在的训练瓶颈,如大图像尺寸训练慢、早期深度卷积层速度慢以及等比例缩放各阶段非最优等情况进行改进,以实现训练速度快、参数效率高和泛化能力好的优势,将其应用到YOLOv11中有望提升模型整体性能,在保证精度的同时降低模型复杂度和训练....

YOLOv11改进策略【模型轻量化】| 替换骨干网络为EfficientNet v2,加速训练,快速收敛
文章 2024-11-27 来自:开发者社区

Python在深度学习领域的应用,重点讲解了神经网络的基础概念、基本结构、训练过程及优化技巧

在当今的科技领域,深度学习已经成为了最热门的研究方向之一。而 Python 作为一种强大且灵活的编程语言,在深度学习中扮演着重要的角色。本文将带大家一起探索 Python 深度学习中的神经网络基础。 一、神经网络的概念 神经网络是一种模仿人类大脑神经元连接方式的计算模型。它由大量的节点(神经元)相互连接而成,通过对输入数据的处...

文章 2024-10-18 来自:开发者社区

目标分类笔记(一): 利用包含多个网络多种训练策略的框架来完成多目标分类任务(从数据准备到训练测试部署的完整流程)

一、目标分类介绍 目标分类是一种监督学习任务,其目标是根据输入数据的特征将其分配到预定义的类别中。这种分类方法在许多实际应用中都有广泛的应用,如垃圾邮件检测、图像识别、情感分析等。 目标分类的基本流程包括:数据预处理(如清洗、标准化)、特征提取、模型选择和训练、模型评估和优化。其中,模型的选择和训练是关键步骤,常见的分类算法有决策树、支持向量机、神经网络等。 目标分类的优点是可以自动地进行分类,....

目标分类笔记(一): 利用包含多个网络多种训练策略的框架来完成多目标分类任务(从数据准备到训练测试部署的完整流程)
文章 2024-10-18 来自:开发者社区

目标检测笔记(五):详细介绍并实现可视化深度学习中每层特征层的网络训练情况

❤️ ❣️ ❤️ ❣️ 为什么要解析特征层 在深度学习中,特征层是指神经网络中的一组层,在输入数据经过前几层后,将其分析和抽象为更高层次的特征表示。这些特征层对于网络的性能和训练结果有关键的影响。因此,在深度学习网络的训练过程中,对每一层特征层进行可视化和保存,可以帮助研究者更全面地了解网络内部的运作情况,并通过可视化结果的更新来调...

目标检测笔记(五):详细介绍并实现可视化深度学习中每层特征层的网络训练情况
文章 2024-10-18 来自:开发者社区

目标检测实战(一):CIFAR10结合神经网络加载、训练、测试完整步骤

导入模块 # 首先当然肯定要导入torch和torchvision,至于第三个是用于进行数据预处理的模块 import torch import argparse import torchvision import torch.nn as nn import torch.optim as optim # 导入torch.potim模块 import matplotlib.pyplot as ...

目标检测实战(一):CIFAR10结合神经网络加载、训练、测试完整步骤
文章 2024-10-16 来自:开发者社区

深度学习笔记(五):学习率过大过小对于网络训练有何影响以及如何解决

1.学习率的作用 学习率 (learning rate),作为监督学习以及深度学习中重要的超参,它控制网络模型的学习进度,决定这网络能否成功或者需要多久成功找到全局最小值,从而得到全局最优解,也就是最优参数。换句话说学习率和stride(步长)性质差不多。 2.学习率太大有何影响 首先我们要认识到学习率过大,自然第一反应就是学习的速度或者说忽略了某些阶段直接学到了下一个阶段的东西,这对于计算机来....

深度学习笔记(五):学习率过大过小对于网络训练有何影响以及如何解决

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

域名解析DNS

关注DNS行业趋势、技术、标准、产品和最佳实践,连接国内外相关技术社群信息,追踪业内DNS产品动态,加强信息共享,欢迎大家关注、推荐和投稿。

+关注