V
主页
【手推公式】可导损失函数(loss function)的梯度下降(GD)、随机梯度下降(SGD)以及mini-batch gd梯度优化策略
发布人
这里介绍的是任意可导损失函数,及其梯度优化策略。
打开封面
下载高清视频
观看高清视频
视频下载器
【手推公式】xgboost自定义损失函数(cross entropy/squared log loss)及其一阶导数gradient二阶导数hessian
【手推公式】logistic regression 及其与 linear regression 的区别,对数线性与对数几率
【手推公式】梯度下降(一阶泰勒展开)的一种直观形式
[手推公式] sigmoid 及其导数 softmax 及其导数性质(从 logits 到 probabilities)
[多元变量微分] 方向导数与梯度下降方法(directional derivatives)
【手推公式】指数族分布(exponential family distribution),伯努利分布及高斯分布的推导
2024最全版!线性回归、梯度下降、逻辑回归、决策树、聚类、欠拟合过拟合,机器学习10大算法一次被他讲透彻了!
【机器学习】【手推公式】从Hinge loss(合页损失)到 SVM(hard margin/soft margin)
【手推公式】【销量预测】【回归分析】MAE与MSE在回归分析时的区别,为什么MSE倾向于回归均值,MAE倾向于回归中位数
[pytorch] 激活函数(梯度消失)sigmoid,clamp,relu(sparse representation,dying relu)
[bert、t5、gpt] 10 知识蒸馏(knowledge distill)初步,模型结构及损失函数设计
【手推公式】【目标检测】【Fast RCNN】RoIPooling 的作用及计算
[数学!数学] 最大似然估计(MLE)与最小化交叉熵损失(cross entropy loss)的等价性
[pytorch 强化学习] 10 从 Q Learning 到 DQN(experience replay 与 huber loss / smooth L1)
[pytorch 强化学习] 05 迷宫环境(maze environment)策略梯度(Policy Gradient)求解
[pytorch] 激活函数,从 ReLU、LeakyRELU 到 GELU 及其梯度(gradient)(BertLayer,FFN,GELU)
[pytorch optim] pytorch 作为一个通用优化问题求解器(目标函数、决策变量)
[pytorch 强化学习] 11 逐行写代码实现 DQN(ReplayMemory,Transition,DQN as Q function)
[LLM 番外] 自回归语言模型cross entropy loss,及 PPL 评估
[LLMs 实践] 13 gradient checkpointing 显存优化 trick
暑假恶补全200集!回归算法、梯度下降、聚类算法、线性代数、支持向量机、天池工业蒸汽量项目归一化、多项式回归等12大机器学习算法入门到精通一口气学会!
【Python 运筹实战】Python实战 |指派问题assignment problem| 匈牙利算法(Hungarian algorithm)
[pytorch 强化学习] 07 迷宫环境(maze environment)Q Learning(value iteration)求解(策略关闭 off)
YOLOv10全网最新创新点改进系列 : 一键操作!CioU DioU GioU 损失函数改进!傻瓜式操作、保姆级教程!!!
【计算机基础算法】从排列到随机,字典序(lexicographic order)排列算法的实现
[概率 & 统计] Thompson Sampling(随机贝叶斯后验采样)与多臂老虎机
【矩阵分析】斐波那契数列(Fibonacci)通项公式的(矩阵矢量)推导
一次函数中考压轴5题通关,你能闯几关?看似简单,你不知道的事
【手推公式】从 logodds 到 sigmoid 概率化输出,用于 LR、XGBoost 的分类任务
【python 运筹优化】scipy.optimize.minimize 使用
[AI 核心概念及计算] 概率计算 01 pytorch 最大似然估计(MLE)伯努利分布的参数
【excel】计算白条花呗借呗分期付款的真实IRR(Internal Rate of Return)
[矩阵分析] 旋转矩阵的计算机与应用(复平面,RoPE)
[pytorch 网络拓扑结构] 深入理解 nn.LayerNorm 的计算过程
[gpt2 番外] training vs. inference(generate),PPL 计算,交叉熵损失与 ignore_index
[数据可视化] 绘制交互式 3d plot(interactive 3d plot, Axes3d) z=f(x, y) (三维空间中的 surface)
[bert、t5、gpt] 06 GPT2 整体介绍(tokenizer,model forward)
【Python 运筹实战】指派问题assignment problem| 匈牙利算法(Hungarian algorithm)| scipy.optimize
[pytorch 强化学习] 03 动手写迷宫环境(maze env)状态及动作策略初步(及动画保存)
[动手写bert系列] 01 huggingface tokenizer (vocab,encode,decode)原理及细节