V
主页
【手推公式】从二分类到多分类,从sigmoid到softmax,从最大似然估计到 cross entropy
发布人
打开封面
下载高清视频
观看高清视频
视频下载器
【手推公式】从二分类(二项分布)到多分类(多项分布),最大似然估计与交叉熵损失的等价
【手推公式】logistic regression 及其与 linear regression 的区别,对数线性与对数几率
[手推公式] sigmoid 及其导数 softmax 及其导数性质(从 logits 到 probabilities)
【手推公式】logistic regression 为什么不采用 squared loss作为其损失函数,如何从最大似然估计得到交叉熵损失函数
【手推公式】xgboost自定义损失函数(cross entropy/squared log loss)及其一阶导数gradient二阶导数hessian
[数学!数学] 最大似然估计(MLE)与最小化交叉熵损失(cross entropy loss)的等价性
【手推公式】multi-classification多分类评估(precision/recall,micro averaging与macro averaging
【手推公式】【目标检测】【Fast RCNN】RoIPooling 的作用及计算
[pytorch] F.binary_cross_entropy(二分类) 与 F.cross_entropy(多分类)
[AI 核心概念及计算] 概率计算 01 pytorch 最大似然估计(MLE)伯努利分布的参数
[LLM 番外] 自回归语言模型cross entropy loss,及 PPL 评估
SVM多分类分析:SHAP解释各类别下各特征对模型的影响力
【手推公式】指数族分布(exponential family distribution),伯努利分布及高斯分布的推导
【机器学习】【手推公式】从Hinge loss(合页损失)到 SVM(hard margin/soft margin)
【手推公式】【销量预测】【回归分析】MAE与MSE在回归分析时的区别,为什么MSE倾向于回归均值,MAE倾向于回归中位数
一个视频搞清楚最大似然估计,6min超简单~
【手推公式】从 logodds 到 sigmoid 概率化输出,用于 LR、XGBoost 的分类任务
【手推公式】可导损失函数(loss function)的梯度下降(GD)、随机梯度下降(SGD)以及mini-batch gd梯度优化策略
[pytorch] 激活函数(梯度消失)sigmoid,clamp,relu(sparse representation,dying relu)
【手推公式】odds(几率)与对数几率(logodds)在logistics regression及xgboost classification中的应用
【手推公式】梯度下降(一阶泰勒展开)的一种直观形式
[pytorch 模型拓扑结构] 深入理解 nn.CrossEntropyLoss 计算过程(nn.NLLLoss(nn.LogSoftmax))
[pytorch] [求导练习] 02 softmax 函数自动求导练习(autograd,Jacobian matrix)
[pytorch 强化学习] 02 将 env rendering 保存为 mp4/gif(以 CartPole 为例,mode='rgb_array')
[pytorch] 深入理解 nn.KLDivLoss(kl 散度) 与 nn.CrossEntropyLoss(交叉熵)
[pytorch 模型拓扑结构] 深入理解 nn.BCELoss 计算过程及 backward 及其与 CrossEntropyLoss 的区别与联系
[LLMs 实践] 14 llama2 introduction 及 fine tune llama2(guanaco dataset)
[动手写神经网络] 04 使用预训练 vgg 提升 cifar10 分类准确率
[pytorch distributed] torch 分布式基础(process group),点对点通信,集合通信
[蒙特卡洛方法] 04 重要性采样补充,数学性质及 On-policy vs. Off-policy
[LLMs 实践] 09 BPE gpt2 tokenizer 与 train tokenizer
[pytorch 强化学习] 08 CartPole Q learning 连续状态离散化(digitize 分桶)及 display_frame_as_gif
【统计学】p-value(p值) 与 z-score(标准分/z得分/z分数)定义,计算以及适用场景
【运筹】【整数规划】outer approximation 求解 MINLP及示例
[pytorch] torch.einsum 到索引到矩阵运算(index、shape、dimension、axis)
[动手写bert系列] 01 huggingface tokenizer (vocab,encode,decode)原理及细节
[pytorch optim] 优化器相关 AdaGrad(adaptive gradient) 与 RMSprop,自适应梯度
[强化学习基础 02] MDP价值迭代算法(value iteration,V(s), Q(s,a), pi(s))
FTTransformer,一个比LightGBM还要能打的模型
[动手写 bert] masking 机制、bert head 与 BertForMaskedLM