V
主页
[矩阵微分] 标量/矢量关于矢量/矩阵的矩阵微分,深度学习框架反向传播
发布人
本期 code:https://github.com/chunhuizhang/deeplearning_math/blob/main/tutorials/matrix/matrix_calculus.ipynb torch 自动求导练习 sigmod:BV1rW4y1N7ZU,求导练习 softmax:BV1gW4y1K7Du,计算图:BV1hv4y1B7pE
打开封面
下载高清视频
观看高清视频
视频下载器
[动手写神经网络] 可微才可学,深度学习框架自动微分计算图(DAG)
矩阵论期末救命(研一)重点题型之线性变换
[pytorch] [求导练习] 04 前向计算与反向传播与梯度更新(forward,loss.backward(), optimizer.step)
[pytorch] [求导练习] 03 计算图(computation graph)及链式法则(chain rule)反向传播过程
[矩阵分析] LoRA 矩阵分析基础之 SVD low rank approximation(低秩逼近)
【矩阵分析】斐波那契数列(Fibonacci)通项公式的(矩阵矢量)推导
【矩阵分析】从特征值特征向量到矩阵SVD奇异值分解(np.linalg.svd)
矩阵论期末救命(研一)重点题型之Jordan标准型
【推荐系统】【缺失值处理】【矩阵分析】基于低秩矩阵补全(low rank matrix completing,矩阵分解 matrix factorizatio)
2024诺奖AI之父-- 辛顿 【反向传播论文】
矩阵论期末救命(研一)必考题型之奇异值分解
[pytorch] torch.einsum 到索引到矩阵运算(index、shape、dimension、axis)
【矩阵分析】二维旋转矩阵的推导(极坐标/基变换)
矩阵论期末救命(研一)重点题型之矩阵函数(最小多项式法/待定系数法)
这绝对是2024年PyTorch框架天花板教程!清华大佬强力打造!100集带你吃透深度学习!
[矩阵分析] 从向量范数到矩阵范数、torch spectral norm(矩阵的谱范数)
【矩阵分析】矩阵范数(martix norm)&条件数(condition number),ill-conditioned,well-conditioned
【回归】多元线性回归分析(最小二乘法,矩阵矢量形式,解析解)
[pytorch 模型拓扑结构] pytorch 矩阵乘法大全(torch.dot, mm, bmm, @, *, matmul)
[多元变量微分] 方向导数与梯度下降方法(directional derivatives)
[pytorch 模型拓扑结构] 深入理解 nn.BCELoss 计算过程及 backward 及其与 CrossEntropyLoss 的区别与联系
[矩阵分析] 旋转矩阵的计算机与应用(复平面,RoPE)
[pytorch] torch.nn.Bilinear 计算过程与 einsum(爱因斯坦求和约定)
[矩阵分析] 分块矩阵的角度理解矩阵运算(独热向量与对角矩阵)
[pytorch] 激活函数(梯度消失)sigmoid,clamp,relu(sparse representation,dying relu)
[PyTorch] Dropout 基本原理(前向计算与自动求导)
[pytorch] 多项式分布及采样(torch.multinomial, torch distribution Categorical)
神经网络原来就是素描?
【深度学习环境搭建】01 本机、GPU服务器端深度学习环境搭建(代码、数据共享)
[pytorch distributed] torch 分布式基础(process group),点对点通信,集合通信
[pytorch 强化学习] 10 从 Q Learning 到 DQN(experience replay 与 huber loss / smooth L1)
[Python 机器学习] 深入理解 numpy(ndarray)的 axis(轴/维度)
[调包侠] 使用深度学习模型(paddlehub - humanseg)进行人物提取(前景提取、抠图)
【矩阵计算】从 im2col 到 GEMM,矩阵与核的卷积到矩阵乘法
【深度学习环境搭建】02 gpu 服务器端部署 jupyter notebook server
[动手写bert系列] BertSelfLayer 多头注意力机制(multi head attention)的分块矩阵实现
[pytorch] 深入理解 torch.gather 及 dim 与 index 的关系
[pytorch 强化学习] 01 认识环境(environment,gym.Env)以及 CartPole-v0/v1 环境
[lora 番外] LoRA merge 与 SVD(矩阵奇异值分解)
【矩阵分析】矩阵奇异值与谱范数(spectral norm),F范数(Frobenius norm),核范数(nuclear norm)