文章 2024-09-23 来自:开发者社区

ACM MM24:复旦提出首个基于扩散模型的视频非限制性对抗攻击框架,主流CNN和ViT架构都防不住它

近年来,随着深度学习的快速发展,生成对抗攻击在图像领域的应用取得了显著的成果。然而,在视频领域的研究相对较少。最近,复旦大学的研究团队提出了一种名为ReToMe-VA(Recursive Token Merging for Video Diffusion-based Unrestricted Adversarial Attac...

文章 2023-05-26 来自:开发者社区

模型加速|CNN与ViT模型都适用的结构化剪枝方法(二)

4、实验4.1、消融实验1、分组策略为了进一步验证分组的有效性,作者在不同的卷积网络上评估了不同的分组策略。策略主要包括:不分组:稀疏学习和重要性评估在单个卷积层上独立进行;仅卷积分组:组内的所有卷积层都以一致的方式稀疏化。完全分组:一个组内的所有可训练层,如卷积、批处理归一化和全连接层,都是一致稀疏的。如表2所示,当忽略神经网络中的分组信息并孤立地稀疏每一层时,本文的方法的性能将显著下降,在某....

模型加速|CNN与ViT模型都适用的结构化剪枝方法(二)
文章 2023-05-26 来自:开发者社区

模型加速|CNN与ViT模型都适用的结构化剪枝方法(一)

结构化剪枝通过从神经网络中删除结构分组的参数来实现模型加速。然而,参数分组模式在不同的模型中差异很大,使得依赖于手动设计的分组方案的特定于体系结构的剪枝器无法推广到新的体系结构。在这项工作中研究了一项极具挑战性但几乎没有探索的任务,即任意结构剪枝,以解决任意架构(如CN、RNN、GNN和Transformer)的一般结构修剪。实现这一目标的最突出障碍在于结构耦合,它不仅迫使不同的层同时被修剪,而....

模型加速|CNN与ViT模型都适用的结构化剪枝方法(一)

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。