使用eRDMA网络进行分布式训练
弹性RDMA（eRDMA）是阿里云自研的云上弹性RDMA网络，可显著降低节点间通信延迟。PAI通用计算资源中的部分GPU机型已支持eRDMA，使用特定镜像提交DLC任务时，系统会自动挂载eRDMA网卡，加速分布式训练。
使用灵骏智算资源提交DLC任务时配置高性能网络变量和镜像
大模型AI并行计算需要通过降低通信量、计算与通信交叠、提升通信效率来优化性能。RDMA（远程直接内存访问）可显著降低网络延迟，适用于灵骏智算资源上的分布式训练任务。
【PyTorch实战演练】AlexNet网络模型构建并使用Cifar10数据集进行批量训练（附代码）
0. 前言 按照国际惯例，首先声明：本文只是我自己学习的理解，虽然参考了他人的宝贵见解及成果，但是内容可能存在不准确的地方。如果发现文中错误，希望批评指正，共同进步。 本文的写作目的主要有以下3点： 介绍经典卷积神经元网络——AlexNet； 基于AlexNet进行改造，使用PyTorch进行编码； 使用批量训练的方法...
ResNet残差网络Pytorch实现——cifar10数据集训练
✌ 使用ResNet进行对cifar10数据集进行训练import torchvision import torch from torchvision import transforms import os import json import torch.nn as nn import torch.optim as optim from torchvision import transform....
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
