AI 助理
备案控制台
文章 2025-05-01 来自：开发者社区

Perforated Backpropagation：神经网络优化的创新技术及PyTorch使用指南

近年来，深度学习在从大型语言模型(LLM)到机器人技术再到医疗人工智能的众多领域展现出了显著成效。随着研究资源的持续投入，这一领域通过架构创新、更大规模的数据集和先进硬件而不断发展。然而，深度学习的基础构建模块——人工神经元，自1943年首次数学表述以来几乎保持不变。同样，其基础算法——基于梯度下降的反向传播，自20世纪80年代首次应用于神经网络以来，仅在优化技术方面有所改进。当前，深度学习领域....

Perforated Backpropagation：神经网络优化的创新技术及PyTorch使用指南
文章 2025-04-30 来自：开发者社区

加速LLM大模型推理，KV缓存技术详解与PyTorch实现

随着大型语言模型(LLM)规模和复杂度的指数级增长，推理效率已成为人工智能领域亟待解决的关键挑战。当前，GPT-4、Claude 3和Llama 3等大模型虽然表现出强大的理解与生成能力，但其自回归解码过程中的计算冗余问题依然显著制约着实际应用场景中的响应速度和资源利用效率。 键值(KV)缓存技术作为Transformer架构推理优化的核心策略，通过巧妙地存储和复用注意力机制中的中间计算结果，有....

加速LLM大模型推理，KV缓存技术详解与PyTorch实现
文章 2025-04-12 来自：开发者社区

从零实现基于扩散模型的文本到视频生成系统：技术详解与Pytorch代码实现

本文详细介绍了基于扩散模型构建的文本到视频生成系统，展示了在MSRV-TT和Shutterstock视频标注数据集上训练的模型输出结果。以下是模型在不同提示词下的生成示例。首先展示一些模型生成效果展示 提示词："A person holding a camera"（训练10K步） 拿相机的人物场景 提示词："Spaceship crossing the bridge"（训练10K步） 飞船穿过桥....

从零实现基于扩散模型的文本到视频生成系统：技术详解与Pytorch代码实现
文章 2024-07-16 来自：开发者社区

注意力机制中三种掩码技术详解和Pytorch实现

注意力机制是许多最先进神经网络架构的基本组成部分，比如Transformer模型。注意力机制中的一个关键方面是掩码，它有助于控制信息流，并确保模型适当地处理序列。 在这篇文章中，我们将探索在注意力机制中使用的各种类型的掩码，并在PyTorch中实现它们。 在神经网络中，掩码是一种用于阻止模型使用输入数据中的某些部分的技术。这在序列模型中尤其重要，因为序列的长度可能会有所不同，且输入的某些部分...

注意力机制中三种掩码技术详解和Pytorch实现
文章 2024-07-13 来自：开发者社区

在深度学习中，数据增强是一种常用的技术，用于通过增加训练数据的多样性来提高模型的泛化能力。`albumentations`是一个强大的Python库，用于图像增强，支持多种图像变换操作，并且可以与深度学习框架（如PyTorch、TensorFlow等）无缝集成。

一、引言 在深度学习中，数据增强是一种常用的技术，用于通过增加训练数据的多样性来提高模型的泛化能力。albumentations是一个强大的Python库，用于图像增强，支持多种图像变换操作，并且可以与深度学习框架（如PyTorch、TensorFlow等）无缝集成。 二、albumentation...

文章 2024-04-09 来自：开发者社区

​5种常用于LLM的令牌遮蔽技术介绍以及Pytorch的实现

本文将介绍大语言模型中使用的不同令牌遮蔽技术，并比较它们的优点，以及使用Pytorch实现以了解它们的底层工作原理。 令牌掩码Token Masking是一种广泛应用于语言模型分类变体和生成模型训练的策略。BERT语言模型首先使用，并被用于许多变体(RoBERTa, ALBERT, DeBERTa…)。 而Text Corruption是一种更大的令牌遮蔽策略。在BART研究论文中，进行了大...

​5种常用于LLM的令牌遮蔽技术介绍以及Pytorch的实现
文章 2023-09-21 来自：开发者社区

解码注意力Attention机制：从技术解析到PyTorch实战

在本文中，我们深入探讨了注意力机制的理论基础和实际应用。从其历史发展和基础定义，到具体的数学模型，再到其在自然语言处理和计算机视觉等多个人工智能子领域的应用实例，本文为您提供了一个全面且深入的视角。通过Python和PyTorch代码示例，我们还展示了如何实现这一先进的机制。关注TechLead，分享AI技术的全维度知识。作者拥有10+年互联网服务架构、AI产品研发经验、团队管理经验，同济本复旦....

解码注意力Attention机制：从技术解析到PyTorch实战
文章 2021-11-02 来自：开发者社区

Interview：算法岗位面试—10.25早上—上海某电公司算法岗位(偏图像算法，国企)技术面试之比赛历程、项目收获(Pytorch和Tensorflow)、未来方向

10.25早上一位博士技术面试+HR面试        前一天，通过电话沟通，因为博主早上有笔试，所以改约到11点，去的时候前边已有几个人在等候。我去面试的时候已经快到12点了，然后一位文质彬彬的浙大的博士和我进行了面试，接着自我介绍了五六分钟，把比赛和项目说了一下。面试的博士期间问到了我比较传统的图像算法，我说了用了传统算法先进行一些预处理，再放到CNN....

本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。

pytorch您可能感兴趣

相关镜像