V
主页
大型语言模型与生成式AI——参数高效微调3——PEFT技术2 - 软提示
发布人
大型语言模型与生成式AI——参数高效微调3——PEFT技术2 - 软提示 #大型语言模型与生成式AI# 在这个视频中,我们将深入探讨一种名为“提示调整”的高效参数微调方法。与提示工程相似但却截然不同,提示调整通过添加可训练的标记来优化模型,而不是通过改变权重。 🔍 主要内容: 1. LoRA技术:一种不必重新训练每个参数就能更新模型权重的高效方法。 2. 软提示(Soft Prompts):一种可训练的标记,与语言标记的嵌入向量长度相同,能有效提升性能。 3. 提示调整与提示工程的比较:虽然名字相似,但两者在实现上有很大不同。提示工程需要大量手动努力,而提示调整则更灵活、高效。 4. 全面微调与提示调整的对比:提示调整是一种非常参数高效的策略,与全面微调相比,只需训练少量参数。 5. 实际应用:如何通过软提示在不同任务之间轻松切换,以及软提示在磁盘上的小巧体积使其成为一种极其高效和灵活的微调方式。 6. 性能评估:通过与全面微调和多任务微调的对比,展示提示调整的性能如何随着模型大小的增加而提高。 7. 专业分析:深入探讨软提示标记的可解释性,以及如何通过LoRA和提示调整实现更好的性能。 🎓 本周学习成果: - 掌握了如何通过LoRA和提示调整进行高效微调。 - 学习了如何通过量化技术进一步减少内存占用。 - 了解了PEFT在实践中的重要性,以及如何最大限度地利用计算预算并加速开发过程。 🎉 恭喜您完成了第二周的学习! 本周,您不仅了解了如何通过称为指令微调的过程来调整基础模型,还看到了用于训练FLAN-T5模型的提示模板和数据集。更重要的是,您学会了如何使用ROUGE和HELM等评估指标和基准来衡量模型微调的成功。 👉 立即观看,探索更多关于生成式AI和LLM的精彩内容! 课程地址:https://www.coursera.org/learn/generative-ai-with-llms/lecture/8dnaU/peft-techniques-2-soft-prompts 播放列表: 油管:https://www.youtube.com/watch?v=X7r4rL2T2lg&list=PLiuLMb-dLdWL4KBaU3FTM5f_oMcSvXcZw B站:https://www.bilibili.com/video/BV12s4y1r7jf/?spm_id_from=333.999.section.playall&vd_source=e71f65cbc40a72fce570b20ffcb28b22
打开封面
下载高清视频
观看高清视频
视频下载器
大型语言模型与生成式AI——参数高效微调2——PEFT技术1 - LoRA(低秩适应)
(超爽中英!) 2024公认最全的【吴恩达大模型LLM】系列教程!附代码_LangChain_微调ChatGPT提示词_RAG模型应用_agent_生成式AI
大型语言模型与生成式AI——参数高效微调1——参数高效微调(PEFT)
发现提示工程——提示工程就是为了从生成式 AI 中获取有用输出而设计有效提示词的过程(双语字幕)
大型语言模型与生成式AI——使用指令对LLM进行微调1——介绍
大型语言模型与生成式AI——人类反馈强化学习4——RLHF - 获取人类的反馈信息
大语言模型微调之道4——指令微调
大型语言模型与生成式AI——人类反馈强化学习6——RLHF - 通过强化学习进行微调
大型语言模型与生成式AI——人类反馈强化学习3——通过人类反馈进行强化学习(RLHF)
生成式AI学习2——大语言模型介绍
大型语言模型与生成式AI——使用指令对LLM进行微调2——指令微调
大语言模型微调之道1——介绍
生成式 AI 入门教程 1 - 什么是生成式 AI - 了解其定义、应用与影响
大型语言模型与生成式AI——人类反馈强化学习2——使模型与人类价值观一致
大型语言模型与生成式AI——人类反馈强化学习7——PPO增强学习算法深度解析
大型语言模型与生成式AI——介绍LLM和生成式AI项目的生命周期6——Transformer架构
一分钟学 AI 之 —— 什么是大语言模型
大型语言模型与生成式AI——介绍LLM和生成式AI项目的生命周期10——生成式AI项目的生命周期
大型语言模型与生成式AI——使用指令对LLM进行微调3——对单一任务进行微调
大型语言模型与生成式AI——人类反馈强化学习8——奖励攻击
2 分钟解释什么是生成式 AI(双语字幕)
使用Gradio构建生成式AI应用1:课程介绍
生成式 AI 入门教程 2 - 什么是生成式 AI - 原理和指南
面向所有人的生成式 AI 入门课程 9 - 生成式 AI 应用 - 高效提示词撰写技巧
生成式AI学习4——图像生成简介
大语言模型微调之道2——为什么要微调
面向所有人的生成式 AI 入门课程 7 - 生成式 AI 应用 - 聊天
LLM工程-掌握AI与大型语言模型 - LLM Engineering: Master AI & Large Language Models (LLMs)
面向所有人的生成式 AI 入门课程 8 - 生成式 AI 应用 - 大语言模型的能力与局限
生成式AI学习1——生成式人工智能简介
大型语言模型与生成式AI——使用指令对LLM进行微调6——基准测试
一分钟学 AI 之——什么是提示工程
大型语言模型与生成式AI——介绍LLM和生成式AI项目的生命周期7——用Transformer生成文本
大型语言模型与生成式AI——介绍LLM和生成式AI项目的生命周期9——生成配置
一分钟学 AI 之 —— 什么是生成式 AI
大型语言模型与生成式AI——介绍LLM和生成式AI项目的生命周期4——LLM的使用案例和任务
生成式AI学习6——编码器-解码器架构(下)Lab演练
基于LangChain的大语言模型应用开发2——模型,提示和输出解析
面向所有人的生成式 AI 入门课程 4 - 什么是生成式 AI - AI 是一种通用技术
面向视觉模型的提示工程 —— 6. 微调