[pytorch] 多项式分布及采样（torch.multinomial, torch distribution Categorical）
发布人
打开封面 下载高清视频 观看高清视频 视频下载器
...
[pytorch] 深入理解 torch.gather 及 dim 与 index 的关系
...
[pytorch] torch.einsum 到索引到矩阵运算（index、shape、dimension、axis）
...
[pytorch] torch.nn.Bilinear 计算过程与 einsum（爱因斯坦求和约定）
...
【excel数据分析】幂律分布拟合城市GDP（幂律分布 vs. 指数分布 vs. 线性拟合 vs. 多项式拟合）
...
[pytorch distributed] 01 nn.DataParallel 数据并行初步
...
[pytorch 模型拓扑结构] pytorch 矩阵乘法大全（torch.dot, mm, bmm, @, *, matmul）
...
[pytorch distributed] torch 分布式基础（process group），点对点通信，集合通信
...
【手推公式】指数族分布（exponential family distribution），伯努利分布及高斯分布的推导
...
[pytorch] Tensor 轴（axis）交换，transpose（转置）、swapaxes、permute
...
[动手写神经网络] 01 认识 pytorch 中的 dataset、dataloader（mnist、fashionmnist、cifar10）
...
[pytorch 强化学习] 10 从 Q Learning 到 DQN（experience replay 与 huber loss / smooth L1）
...
[动手写神经网络] 如何设计卷积核（conv kernel）实现降2采样，以及初探vggnet/resnet 卷积设计思路（不断降空间尺度，升channel）
...
[蒙特卡洛方法] 02 重要性采样（importance sampling）及 python 实现
...
[pytorch 强化学习] 01 认识环境（environment，gym.Env）以及 CartPole-v0/v1 环境
...
[pytorch] [求导练习] 03 计算图（computation graph）及链式法则（chain rule）反向传播过程
...
[动手写神经网络] 可微才可学，深度学习框架自动微分计算图（DAG）
...
[pytorch] [求导练习] 06 计算图（computation graph）细节之 retain graph（multi output/backwar）
...
[pytorch] 激活函数（梯度消失）sigmoid，clamp，relu（sparse representation，dying relu）
...
【统计学】从置信水平（confidence level，置信区间）、Z值到最小采样数（最小抽样数）
...
[调包侠] 使用 PyTorch Swin Transformer 完成图像分类
...
[pytorch 番外] Tensorboard 与计算图初步（算子与 ATen）
...
[AI 核心概念及计算] 概率计算 01 pytorch 最大似然估计（MLE）伯努利分布的参数
...
[pytorch 强化学习] 12 逐行写代码实现 DQN 完全体
...
[pytorch 强化学习] 11 逐行写代码实现 DQN（ReplayMemory，Transition，DQN as Q function）
...
[generative models] 概率建模视角下的现代生成模型（生成式 vs. 判别式，采样与密度估计）
...
[pytorch] [求导练习] 04 前向计算与反向传播与梯度更新（forward，loss.backward(), optimizer.step）
...
[概率 & 统计] kl div kl散度的计算及应用（pytorch）
...
[pytorch 强化学习] 02 将 env rendering 保存为 mp4/gif（以 CartPole 为例，mode='rgb_array'）
...
[动手写 bert 系列] torch.no_grad() vs. param.requires_grad == False
...
[pytorch distributed] 张量并行与 megtron-lm 及 accelerate 配置
...
[pytorch distributed] accelerate 基本用法（config，launch）数据并行
...
[pytorch distributed] 04 模型并行（model parallel）on ResNet50
...
[动手写神经网络] 手动实现 Transformer Encoder
...
【统计】统计检验（从t-distribution（t分布）到t-test（t检验），t-score（t-统计量）以及卡方检验（chi-test），excel计算
...
[pytorch optim] Adam 与 AdamW，L2 reg 与 weight decay，deepseed
...
[pytorch] [求导练习] 01 sigmoid 函数自动求导练习（autograd，单变量，多变量 multivariables 形式）
...
[蒙特卡洛方法] 04 重要性采样补充，数学性质及 On-policy vs. Off-policy
...
[全栈深度学习] 01 docker 工具的基本使用及 nvidia cuda pytorch 镜像
...
[pytorch distributed] 从 DDP、模型并行、流水线并行到 FSDP（NCCL，deepspeed 与 Accelerate）
...
[pytorch 网络拓扑结构] 深入理解 nn.LayerNorm 的计算过程