[pytorch distributed] 04 模型并行（model parallel）on ResNet50
发布人
打开封面 下载高清视频 观看高清视频 视频下载器
...
[pytorch distributed] 01 nn.DataParallel 数据并行初步
...
[pytorch distributed] 从 DDP、模型并行、流水线并行到 FSDP（NCCL，deepspeed 与 Accelerate）
...
[pytorch distributed] deepspeed 基本概念、原理（os+g+p）
...
[pytorch distributed] 05 张量并行（tensor parallel），分块矩阵的角度，作用在 FFN 以及 Attention 上
...
[pytorch distributed] accelerate 基本用法（config，launch）数据并行
...
[pytorch distributed] 02 DDP 基本概念（Ring AllReduce，node，world，rank，参数服务器）
...
[pytorch] [求导练习] 03 计算图（computation graph）及链式法则（chain rule）反向传播过程
...
[pytorch distributed] torch 分布式基础（process group），点对点通信，集合通信
...
[pytorch distributed] 03 DDP 初步应用（Trainer，torchrun）
...
[pytorch distributed] nccl 集合通信（collective communication）
...
[LLMs 实践] 02 LoRA（Low Rank Adaption）基本原理与基本概念，fine-tune 大语言模型
...
[diffusion] 生成模型基础 VAE 原理及实现
...
[全栈深度学习] 01 docker 工具的基本使用及 nvidia cuda pytorch 镜像
...
[personal chatgpt] 从 RoPE 到 CoPE（绝对位置编码，相对位置编码，Contextual Position Encoding）
...
[pytorch distributed] amp 原理，automatic mixed precision 自动混合精度
...
[pytorch] [求导练习] 06 计算图（computation graph）细节之 retain graph（multi output/backwar）
...
[pytorch 强化学习] 01 认识环境（environment，gym.Env）以及 CartPole-v0/v1 环境
...
[LLMs 实践] 04 PEFT/LoRA 源码分析
...
[动手写神经网络] 如何设计卷积核（conv kernel）实现降2采样，以及初探vggnet/resnet 卷积设计思路（不断降空间尺度，升channel）
...
[pytorch 模型拓扑结构] 深入理解 nn.BCELoss 计算过程及 backward 及其与 CrossEntropyLoss 的区别与联系
...
[pytorch 模型拓扑结构] 深入理解 nn.CrossEntropyLoss 计算过程（nn.NLLLoss(nn.LogSoftmax))
...
[pytorch] 激活函数，从 ReLU、LeakyRELU 到 GELU 及其梯度（gradient）（BertLayer，FFN，GELU）
...
[LLMs 实践] 03 LoRA fine-tune 大语言模型（peft、bloom 7b）
...
[动手写 bert 系列] bert model architecture 模型架构初探（embedding + encoder + pooler）
...
[pytorch 强化学习] 11 逐行写代码实现 DQN（ReplayMemory，Transition，DQN as Q function）
...
[Python 机器学习] 深入理解 numpy（ndarray）的 axis（轴/维度）
...
[调包侠] 使用 PyTorch Swin Transformer 完成图像分类
...
【Pytorch入门实战-附源码】龙良曲深度学习PyTorch入门实战，全150讲，绝对通俗易懂！_AI人工智能/计算机视觉/深度学习/pytorch/神经网络
...
[模型拓扑接口] 经典 RNN 模型（一）模型参数及训练参数的介绍
...
[pytorch] torch.einsum 到索引到矩阵运算（index、shape、dimension、axis）
...
[pytorch optim] pytorch 作为一个通用优化问题求解器（目标函数、决策变量）
...
[pytorch] [求导练习] 04 前向计算与反向传播与梯度更新（forward，loss.backward(), optimizer.step）
...
[personal chatgpt] trl reward model 与 RewardTrainer（奖励模型，分类模型）
...
[leetcode reviews] 01 计算思维与刷题方法
...
[模型拓扑结构] pytorch 注册钩子函数（register_forward_hook）实现对各个层（layer）输入输出 shape 的查看
...
研一、研二必学！基于Pytorch框架的花卉图像识别模型实战，原理详解+项目实战，看完就能跑通！写进简历的深度学习项目，人工智能|深度学习|神经网络
...
【完整版附源码】龙良曲PyTorch入门到实战全150讲，绝对通俗易懂！_AI人工智能/计算机视觉/深度学习/pytorch/神经网络
...
[RLHF] 从 PPO rlhf 到 DPO，公式推导与原理分析
...
[personal chatgpt] trl 基础介绍：reward model，ppotrainer
...
[pytorch] [求导练习] 01 sigmoid 函数自动求导练习（autograd，单变量，多变量 multivariables 形式）