[番外] float16 与 bf16 表示和计算细节
发布人
打开封面 下载高清视频 观看高清视频 视频下载器
...
浮点数 | IEEE 浮点表示法 非规范化数和特殊数的表示
...
浮点数 | 定点数 VS 浮点数
...
快速计算超过双精度浮点数上限的值
...
浮点数 | IEEE 754 标准 单精度和双精度格式
...
浮点数是如何工作的？（7分钟！）
...
【C/C++ 学习必看】字符串和字符数组有什么区别?
...
0元换新，真香！
...
PLC中使用浮点数会有哪些问题及其原因
...
6-data-types-Class0-20241101-录屏
...
6-data-types-Class0-20241101-录像
...
[Python 机器学习] 深入理解 numpy（ndarray）的 axis（轴/维度）
...
[矩阵分析] 分块矩阵的角度理解矩阵运算（独热向量与对角矩阵）
...
[DRL] 从 TRPO 到 PPO（PPO-penalty，PPO-clip）
...
[小白向-深度学习装机指南] 01 双4090 涡轮版开箱启动 vlog（gpu burn，cpu burn）
...
前度-老U保值还会涨价是什么原因
...
【数值计算】牛顿迭代法（Newton's method，Newton-Raphson method，牛顿-拉夫逊（拉弗森））计算二次方根（sqrt）三次方根
...
[AI 核心概念及计算] 优化 01 梯度下降（gradient descent）与梯度上升（gradient ascent）细节及可视化分析
...
[pytorch 强化学习] 11 逐行写代码实现 DQN（ReplayMemory，Transition，DQN as Q function）
...
针脚还能在CPU上？带女儿安装AMD平台是什么体验
...
[动手写神经网络] 01 认识 pytorch 中的 dataset、dataloader（mnist、fashionmnist、cifar10）
...
[pytorch 网络拓扑结构] 深入理解 nn.LayerNorm 的计算过程
...
Go开发超容易踩的坑！json unmarshal 到 interface{} 的精度陷阱（附三种解）
...
[蒙特卡洛方法] 01 从黎曼和式积分（Reimann Sum）到蒙特卡洛估计（monte carlo estimation）求积分求期望
...
[python 多进程、多线程] 03 GIL、threading、多进程，concurrent.futures
...
[leetcode reviews] 01 计算思维与刷题方法
...
[LLM 番外] 自回归语言模型cross entropy loss，及 PPL 评估
...
[LangChain] 03 LangGraph 基本概念（AgentState、StateGraph，nodes，edges）
...
[动手写bert系列] 01 huggingface tokenizer （vocab，encode，decode）原理及细节
...
[pytorch distributed] 张量并行与 megtron-lm 及 accelerate 配置
...
[动手写 Transformer] 手动实现 Transformer Decoder（交叉注意力，encoder-decoder cross attentio）
...
[LLMs 实践] 01 llama、alpaca、vicuna 整体介绍及 llama 推理过程
...
【计算机原理】补码的意义与计算机减法的逻辑
...
[DRL] 从策略梯度到 TRPO（Lagrange Duality，拉格朗日对偶性）
...
[LLMs tuning] 04 optimizer Trainer 优化细节（AdamW，grad clip、Grad Norm）等
...
[RLHF] 从 PPO rlhf 到 DPO，公式推导与原理分析
...
[pytorch] [求导练习] 06 计算图（computation graph）细节之 retain graph（multi output/backwar）
...
[pytorch] [求导练习] 03 计算图（computation graph）及链式法则（chain rule）反向传播过程
...
[pytorch distributed] amp 原理，automatic mixed precision 自动混合精度
...
[调包侠] tencent ailab 中文语料 embedding vector（word2vec）
...
[动手写神经网络] 手动实现 Transformer Encoder