V
主页
大型语言模型与生成式AI——介绍LLM和生成式AI项目的生命周期6——Transformer架构
发布人
https://www.coursera.org/learn/generative-ai-with-llms/lecture/3AqWI/transformers-architecture 大型语言模型与生成式AI——介绍LLM和生成式AI项目的生命周期6——Transformer架构 #大型语言模型与生成式AI# 使用Transformer架构构建大型语言模型显著提升了自然语言任务的性能,主要原因在于它能够学习句子中所有单词的相关性和上下文。这种模型通过应用注意力权重来理解每个单词与其他所有单词的相关性,无论它们在句子中的位置如何。 Transformer架构分为编码器和解码器两部分。在将文本传入模型之前,需要将单词转换成数字(分词),然后传入嵌入层。在嵌入层中,每个token(数字)都被表示为一个向量,并占据嵌入空间中的独特位置。这些向量可以学习编码输入序列中每个token的含义和上下文。 模型还使用了位置编码来保存单词顺序的信息。经过输入tokens和位置编码的求和,将结果向量传递给自注意力层,在这里模型分析输入序列中tokens之间的关系。这种多头自注意力机制允许模型关注输入序列的不同部分,以捕捉单词之间的上下文依赖关系。 最后,所有的注意力权重被应用到输入数据上,然后通过一个全连接的前向网络进行处理。输出是一个对数向量,对应每个单词的概率分数。这些对数被传递给最后的softmax层,归一化为每个单词的概率分数。这个输出包括每个词汇的概率,从而预测最有可能的下一个token。 课程地址:https://www.coursera.org/learn/generative-ai-with-llms/lecture/3AqWI/transformers-architecture 播放列表:https://www.youtube.com/watch?v=X7r4rL2T2lg&list=PLiuLMb-dLdWL4KBaU3FTM5f_oMcSvXcZw
打开封面
下载高清视频
观看高清视频
视频下载器
【保姆级教程】使用LLaMA-Factory,实现Llama3中文增强模型微调+法律大模型微调
Zapier 的联合创始人 Mike Knoop 演示新的 AI 自动化工作流
【全网最简单】快速上手部署RAGFlow!支持多种文件类型,构建你的专属AI产品!大模型小白必看本地部署大模型教程(附教程)
面向所有人的生成式 AI 入门课程 6 - 生成式 AI 应用 - 阅读
大语言模型微调之道4——指令微调
【全374集】2024最新清华内部版!终于把AI大模型(LLM)讲清楚了!全程干货讲解,通俗易懂,拿走不谢!
Mistral 入门指南 —— 概览
Mistral 入门指南 —— 如何写提示词
Ilya Sutskever 和黄仁勋的炉边谈话-- LLM 所做的远不止预测下一个词
生成式 AI 入门教程 2 - 什么是生成式 AI - 原理和指南
Mistral 入门指南 —— 介绍
【小白福音】Ollama + AnythingLLM,有手就行本地知识库部署,从安装到部署,手把手教你玩转知识库!
大型语言模型与生成式AI——使用指令对LLM进行微调4——多任务指令微调
The Prompt with Trevor Noah | 第6集:有时AI是唯一的解决方案
The Prompt with Trevor Noah | 第3集:AI 如何帮助放射科医生更早更准确地检测乳腺癌
最近 CNBC 对 Airbnb CEO Brian Chesky 采访的一段视频,谈到了去年 OpenAI 宫斗以及 Airbnb 在 AI 的应用
Google的教学视频《Introduction to Large Language Models | 大语言模型介绍》
Mistral 入门指南 —— 如何从头实现一个简单的检索增强生成(RAG)
The Prompt with Trevor Noah | 第1集:IHME 人口制图
Mistral 入门指南 —— 如何选择合适的模型
10分钟搞定!免费开源 AI 助手 Ollama 从安装到微调,离线保护隐私~小白入门必看的保姆级教程!!!
The Prompt with Trevor Noah | 第4集:大语言模型如何助力人们戒烟和战胜其他成瘾?
大型语言模型与生成式AI——使用指令对LLM进行微调5——模型评估
一起学多 AI 智能体系统(双语字幕)- 6. 实战:搭建一个多智能体客户支持系统
前方高能,这27个变态AI,一定要偷偷用起来!
【AI项目实战】全网最适合新手入门的【RAG医疗问答系统】教程:如何搭建一个基于RAG的医疗问答系统,我竟30分钟就搞懂了?
入职华为AI大模型算法岗,面试有点东西的
【Dify开源项目实战 】目前B站最详细的Dify快速入门教程,手把手教你基于Llama 3.1和OpenAI创建聊天机器人与知识库
生成式AI学习8——Transformer模型和BERT模型(上)概述
The Prompt with Trevor Noah | 第5集:AI 如何助力临床医生提升胰腺癌早期检测?
面向所有人的生成式 AI 入门课程 10 - 生成式 AI 应用 - 图像生成
来,学习一下Amazon AI shopping assistant 的 Prompt
大语言模型微调之道5——准备数据
来自 Anima Anandkumar 的 TED 演讲:AI 让数字世界和物理世界连接到了一起(双语字幕)
大型语言模型与生成式AI——参数高效微调3——PEFT技术2 - 软提示
生成式 AI 入门教程 3 - 什么是生成式 AI - 大语言模型作为思考助手
LangChain:构建与数据对话的聊天机器人2——文档加载
科技向善:借助 AI 让 ALS(肌萎缩性侧索硬化症)患者也能进行艺术创作
2 分钟解释什么是生成式 AI(双语字幕)
与 AI 结对编程:GitHub Copilot 使用入门