V
主页
吴恩达《深入模型量化|Quantization in Depth》中英字幕
发布人
https://www.deeplearning.ai/short-courses/quantization-in-depth 在《深入量化》课程中,您将构建模型量化方法,将模型权重缩小到原始大小的四分之一,并应用方法来维持压缩模型的性能。您对模型进行量化的能力可以使其更易于使用,并且在推理时也更快。 从头开始实现和自定义线性量化,以便您可以研究空间和性能之间的权衡,然后在PyTorch中构建一个通用的量化器,可以量化任何开源模型。您将实施将模型权重从32位压缩到8位甚至2位的技术。 参加本课程可以: - 构建和自定义线性量化函数,选择两种“模式”:非对称和对称;以及三种粒度:每张量、每通道和每组量化。 - 在平衡每个选项的性能和空间权衡时,测量每个选项的量化误差。 - 在PyTorch中构建自己的量化器,将任何开源模型的密集层从32位量化为8位。 - 超越8位,将四个2位权重打包成一个8位整数。 - 《深入量化》课程让您可以从头开始构建和自定义线性量化器,超越标准的开源库,如PyTorch和Quanto,这些库在短期课程《量化基础》中有介绍,该课程也由Hugging Face提供。 本课程为您提供了学习更高级量化方法的基础,其中一些方法建议在课程结束时进行学习。
打开封面
下载高清视频
观看高清视频
视频下载器
大模型量化一网打尽(一)理论基础
NVIDIA AI 加速精讲堂-TensorRT-LLM量化原理、实现与优化
【耶鲁大学】《量化金融》(全42讲)金融+AI研究生必学经典!
Quantization aware training(神经网络量化训练)
[LLMs inference] quantization 量化整体介绍(bitsandbytes、GPTQ、GGUF、AWQ)
1.1模型量化概念及意义
DeepLearning.AI中国官网正式上线,快跟随吴恩达老师一同探索AI世界吧!
(超爽中英!) 2024公认最好的【吴恩达机器学习】教程!附课件代码 Machine Learning Specialization
【大模型量化】llama.cpp轻量化模型部署及量化
大模型量化部署 解析当前应用较广的几种量化部署方案!
yolo系列模型的部署、精度对齐与int8量化加速
模型量化压缩(Pytorch)
深度学习之模型优化—理论实践篇(搞定模型剪枝量化蒸馏神经网络搜索,这一门课就够了)
模型量化二:训练后动态量化 PTQ PTDQ,pytorch里进行模型训练后动态量化
深度学习模型压缩方法(三):量化
神经网络-量化与部署,进阶之路迟早要越过的大山
模型量化一:量化基础 对称量化 非对称量化 极大值量化 零点量化
大模型量化一网打尽(三)实战
[双语字幕]吴恩达深度学习deeplearning.ai
AI 科学家吴恩达预测2024年LLM将向LVM转变
模型量化六:QLoRA 4bit 量化 NormalFloat4 量化
模型量化加速
强推!B站最全的【大模型微调】实战教程,微调-量化-部署-应用一条龙解读!草履虫都能学会!!!
什么是大模型量化和蒸馏?
2024学大模型必看!看完吴恩达大佬的新课【构建和评估高级的RAG模型应用】顿悟了!中英字幕,适合零基础小白入门,无偿分享!
从0-1实现pytorch模型量化框架(一)原理篇
什么是模型量化model quantization, 推荐一个用AI做PPT目前最好的工具
吴恩达《AI for everyone》给所有人的AI课(中英字幕)
吴恩达《使用LlamaIndex构建主动式RAG|Building Agentic RAG with LlamaIndex》中英字幕
大模型量化一网打尽四(gptq源码)
大语言模型量化简介
吴恩达《Mistral入门|Getting Started with Mistral》中英字幕
吴恩达大模型系列教程:2024吴恩达LLM大模型教程,手把手带你实现大模型预训练和模型微调,中英字幕(附学习课件)
大语言模型推理加速
台大李宏毅:80分钟快速了解大语言模型(LLM) 附学习路线+Langchain+RAG教程
【保姆级大模型微调教程】LLM大语言模型微调之道 吴恩达+Sharin Zhou Finetuning LLMS教程【中英双语字幕丨完整合集】
【MIT的模型压缩与优化课程】12.3Transformer和LLM——LLM的量化:SmoothQuant和AWQ
吴恩达《Hugging Face中的量化基础|Quantization Fundamentals with Hugging Face》中英字幕
大模型量化是怎么实现的——transformers源码解读
吴恩达《构建多模态搜索和 RAG|Building Multimodal Search and RAG》中英字幕【短课均可关英文字幕】