V
主页
大模型量化一网打尽(第一部分)
发布人
这是大模型量化的课程,好了我是阿丹老师,有些小伙伴可能听过我的课程,摊牌了,不装了
打开封面
下载高清视频
观看高清视频
视频下载器
【李宏毅】2024年公认最好的【LLM大模型】教程!大模型入门到进阶,一套全解决!2024生成式人工智慧-附带课件代码
第二十课:MoE
word2vec基本原理
大模型量化一网打尽(第二部分)
模型量化一:量化基础 对称量化 非对称量化 极大值量化 零点量化
1. LLM 模型和理论基础
从传统RAG到GraphRAG
深度学习之模型优化—理论实践篇(搞定模型剪枝量化蒸馏神经网络搜索,这一门课就够了)
大模型rag技术如此之多,如何选择,多看看论文和实验
通义千问-大模型vLLM推理与原理
强推!B站最全的【大模型微调】实战教程,微调-量化-部署-应用一条龙解读!草履虫都能学会!!!
CUDA编程基础入门系列(持续更新)
大模型量化一网打尽(三)实战
神经网络-量化与部署,进阶之路迟早要越过的大山
第一课:Transformer
大模型如何大幅改进 Embedding?(2024.1.21,知乎@Sam多吃青菜)
大模型量化一网打尽四(awq源码)
【大模型量化】llama.cpp轻量化模型部署及量化
量化 vs 剪枝 vs 蒸馏:为推理优化神经网络!
动手学RAG:Part1 什么是RAG?
模型量化六:QLoRA 4bit 量化 NormalFloat4 量化
大模型量化是怎么实现的——transformers源码解读
Quantization aware training(神经网络量化训练)
大模型量化一网打尽四(gptq源码)
知识图谱部署到阿里云服务器
怎么加快大模型推理?10分钟学懂VLLM内部原理,KV Cache,PageAttention
【量化交易教程】全100集(完整版)清华大佬耗时一月讲完的系统python金融分析与量化交易实战课程,包含基础教程,进阶学习,项目实战案例讲解,存下吧,比啃书好
深度学习模型部署与模型剪枝优化实践(附源码),搞懂深度学习模型,这一门课就够了!!顶级大佬带你从基础知识到实战,从来都没有听过这么好的课程!!
吴恩达《深入模型量化|Quantization in Depth》中英字幕
《智能计算系统-从深度学习到大模型 第2版》第六章-面向深度学习的处理器原理
大模型技术栈全览
【保姆级教程】6小时掌握开源大模型本地部署到微调,从硬件指南到ChatGLM3-6B模型部署微调实战|逐帧详解|直达技术底层
Deepspeed大模型分布式框架精讲
19、Transformer模型Encoder原理精讲及其PyTorch逐行实现
详解TensorRT的C++/Python高性能部署,实战应用到项目
大模型是怎么训起来的?分布式并行框架介绍 #大模型 #分布式并行 #训练
模型量化二:训练后动态量化 PTQ PTDQ,pytorch里进行模型训练后动态量化
命名实体识别1
大语言模型量化损失测试 fp16/int8/int4成绩对比
大模型并发加速部署 解析当前应用较广的几种并发加速部署方案!