[LLMs 实践] 18 llama2 源码分析 RoPE 相对位置编码的复数形式
发布人
打开封面 下载高清视频 观看高清视频 视频下载器
...
[personal chatgpt] 从 RoPE 到 CoPE（绝对位置编码，相对位置编码，Contextual Position Encoding）
...
[LLMs 实践] 19 llama2 源码分析 RoPE apply_rotary_emb 从绝对位置编码到相对位置编码
...
75、Llama源码讲解之RoPE旋转位置编码
...
[LLMs 实践] 20 llama2 源码分析 cache KV（keys、values cache）加速推理
...
[LLMs 实践] 17 llama2 源码分析（RMSNorm 与 SwiGLU）
...
[LLMs 实践] 21 llama2 源码分析 GQA：Grouped Query Attention
...
[LLMs 实践] 04 PEFT/LoRA 源码分析
...
[LLMs 实践] 221 llama2 源码分析 generate 的完整过程
...
[矩阵分析] 旋转矩阵的计算机与应用（复平面，RoPE）
...
[LLMs 实践] 15 llama2 源码初步（text completion & chat completion）
...
[LLMs 实践] 02 LoRA（Low Rank Adaption）基本原理与基本概念，fine-tune 大语言模型
...
[LLMs 实践] 08 LLM.int8 量化细节 （load_in_8bit）以及 bitsandbytes 库
...
[LLMs 实践] 14 llama2 introduction 及 fine tune llama2（guanaco dataset）
...
[BERT 番外] Sin Position Encoding 的简洁实现（RoPE 基础）
...
[leetcode reviews] 207. Course Schedule（图算法，拓扑排序，DAG 环检测）
...
[LLMs 实践] 03 LoRA fine-tune 大语言模型（peft、bloom 7b）
...
[LLMs 实践] 01 llama、alpaca、vicuna 整体介绍及 llama 推理过程
...
[LLMs 实践] 07 fp16 与自动混合精度训练（amp）显著提升 batch size
...
[LLM & AIGC] nvidia chat with rtx 初体验
...
[LLMs 实践] 11 gradient accumulation 显存优化 trick
...
[LLMs 实践] 13 gradient checkpointing 显存优化 trick
...
[LLMs 实践] 06 LLaMA，Alpaca LoRA 7B 推理
...
[AI Agent] llama_index RAG 原理及源码分析
...
[pytorch] [求导练习] 01 sigmoid 函数自动求导练习（autograd，单变量，多变量 multivariables 形式）
...
【数据处理】数据变换的三种形式，（几率）对数线性（log linear）、线性对数（linear log）、双对数log-log
...
[LLMs 实践] 12 LLM SFT training （trl SFTTrainer、alpaca dataset）
...
[动手写bert系列] 01 huggingface tokenizer （vocab，encode，decode）原理及细节
...
[Python 机器学习] 深入理解 numpy（ndarray）的 axis（轴/维度）
...
【回归】多元线性回归分析（最小二乘法，矩阵矢量形式，解析解）
...
[矩阵分析] LoRA 矩阵分析基础之 SVD low rank approximation（低秩逼近）
...
[全栈深度学习] 01 docker 工具的基本使用及 nvidia cuda pytorch 镜像
...
[LLMs 实践] 09 BPE gpt2 tokenizer 与 train tokenizer
...
[LLMs 实践] 10 预训练语料，mapping & streaming（load_dataset）
...
[RLHF] 从 PPO rlhf 到 DPO，公式推导与原理分析
...
[pytorch] [求导练习] 06 计算图（computation graph）细节之 retain graph（multi output/backwar）
...
[pytorch distributed] 01 nn.DataParallel 数据并行初步
...
[LLM & AIGC] 03 openai embedding （text-embedding-ada-002）基于 embedding 的文本语义匹配
...
[pytorch 强化学习] 01 认识环境（environment，gym.Env）以及 CartPole-v0/v1 环境
...
[diffusion] 生成模型基础 VAE 原理及实现
...
[模型拓扑接口] 经典 RNN 模型（一）模型参数及训练参数的介绍