[pytorch] torch.einsum 到索引到矩阵运算（index、shape、dimension、axis）
发布人
打开封面 下载高清视频 观看高清视频 视频下载器
...
矩阵乘法的性能优化讲解
...
【Triton编程】Dropout，Matrix Multiplication，Layer Normalization
...
[pytorch] Tensor 轴（axis）交换，transpose（转置）、swapaxes、permute
...
[pytorch] Tensor shape 变化 view 与 reshape（contiguous 的理解）
...
[pytorch] 深入理解 torch.gather 及 dim 与 index 的关系
...
[矩阵分析] 分块矩阵的角度理解矩阵运算（独热向量与对角矩阵）
...
[pytorch] torch.nn.Bilinear 计算过程与 einsum（爱因斯坦求和约定）
...
[矩阵分析] 从向量范数到矩阵范数、torch spectral norm（矩阵的谱范数）
...
【StatQuest】把数学知识唱成歌 - 矩阵乘法
...
[pytorch] 激活函数（梯度消失）sigmoid，clamp，relu（sparse representation，dying relu）
...
[Python 机器学习] 深入理解 numpy（ndarray）的 axis（轴/维度）
...
[pytorch] BN、LN、RMSNorm 及 pre LN vs. post LN 对比，标准化
...
自编教材实操课程分享：第十章—CUDA程序编写
...
【白板编程】map-reduce 倒排索引（inverted index）
...
[矩阵分析] LoRA 矩阵分析基础之 SVD low rank approximation（低秩逼近）
...
[pytorch distributed] torch 分布式基础（process group），点对点通信，集合通信
...
[pytorch 番外] Tensorboard 与计算图初步（算子与 ATen）
...
[pytorch] nn.Embedding 前向查表索引过程与 one hot 关系及 max_norm 的作用
...
[pytorch] 多项式分布及采样（torch.multinomial, torch distribution Categorical）
...
[pytorch distributed] 张量并行与 megtron-lm 及 accelerate 配置
...
[pytorch 强化学习] 10 从 Q Learning 到 DQN（experience replay 与 huber loss / smooth L1）
...
[矩阵微分] 标量/矢量关于矢量/矩阵的矩阵微分，深度学习框架反向传播
...
[pytorch 强化学习] 01 认识环境（environment，gym.Env）以及 CartPole-v0/v1 环境
...
[LangChain] 03 LangGraph 基本概念（AgentState、StateGraph，nodes，edges）
...
[pytorch 网络拓扑结构] 深入理解 nn.LayerNorm 的计算过程
...
[pytorch optim] Adam 与 AdamW，L2 reg 与 weight decay，deepseed
...
【计算机视觉】cnn/maxpool 输入输出 shape 的变化与kernel size、pool size、stride size，padding=same
...
[pytorch distributed] 01 nn.DataParallel 数据并行初步
...
[模型拓扑结构] pytorch 注册钩子函数（register_forward_hook）实现对各个层（layer）输入输出 shape 的查看
...
[动手写神经网络] 01 认识 pytorch 中的 dataset、dataloader（mnist、fashionmnist、cifar10）
...
【小羊肖恩】力扣第 421 场周赛实录——我演我自己！收入北影教材的下饭操作+GPT猖獗！不会矩阵快速幂的有福了！
...
【矩阵分析】矩阵奇异值与谱范数（spectral norm），F范数（Frobenius norm），核范数（nuclear norm）
...
线带考前必刷题-第9题（2024年 数1 填空题 第15题）
...
[动手写神经网络] 可微才可学，深度学习框架自动微分计算图（DAG）
...
[pytorch optim] pytorch 作为一个通用优化问题求解器（目标函数、决策变量）
...
【矩阵分析】从特征值特征向量到矩阵SVD奇异值分解（np.linalg.svd）
...
[pytorch 模型拓扑结构] pytorch 矩阵乘法大全（torch.dot, mm, bmm, @, *, matmul）
...
【回归】多元线性回归分析（最小二乘法，矩阵矢量形式，解析解）
...
[gpt2 番外] training vs. inference（generate），PPL 计算，交叉熵损失与 ignore_index
...
练习13：二维数组应用