V
主页
无限上下文 无穷注意力 RAG好像要废
发布人
https://www.youtube.com/watch?v=r_UBBfTPcF0 谷歌研究者们发明了一种叫做无限注意力的黑科技,通过压缩记忆让大语言模型处理无穷长文本变得轻松。论文里头说,他们用一个叫Infini-attention的新玩意,把普通的注意力机制升级,一锅端收了局部遮罩和长期线性关注,全塞进一个Transformer模块里。10亿、80亿级别的超大模型在长篇小说总结、百万字密钥检索和50万字的书本摘要任务上都大显神威,而且内存控制得当,计算飞快,还能边看边出结果,就像开了挂一样。作者们是天才墨客Munkhdalai、Faruqui和Gopal,分享内容就是对他们最大的支持哦。如果想赞助,订阅或者Patreon上捧个场,比特币、以太坊、莱特币和门罗币都行,随你挑,反正他们也不差那点小钱。
打开封面
下载高清视频
观看高清视频
视频下载器
【fastgpt喂饭教程】最新开源AI知识库 FastGPT,手把手教你搭建最强AI知识库
【喂饭教程】ollama+FastGPT快速搭建本地知识库,免费、无限制、保护隐私、无需网络~小白入门必看的保姆级教程!
GPT-5 将如何改变我们的生活
【喂饭教程】10分钟学会用Ollama+Dify搭建一个专属私有知识库!支持多种文件类型,本地部署大模型,效果惊人的好!
70种Nvidia GPU显卡大比拼 大模型、AI、LLM、深度学习炼丹你到底该怎么配显卡?
彻底搞定RAG技术栈
【全374集】2024最新清华内部版!终于把AI大模型(LLM)讲清楚了!全程干货讲解,通俗易懂,拿走不谢!
15分钟快速上手,如何为RAG选择一款合适的embedding模型?(附教程)
大模型瘦身技术 GGUF和GPTQ
LLaMA 3 未删减版 🥸它能回答任何问题
【全100集】人工智能课程(理论+实战) 大模型学习路线及框架详解 pytorch transformer详解 大模型rag ChatGLM llama微调
基于树的RAG在挣扎吗?与知识图谱无关!
基于RAG的的医疗问答系统,用中华药典做数据库,从0到1实现一个医疗知识问答系统!理论+实战超详细解析包括代码实战、具体讲解、rag增强检索原理,附源码!
神经毁灭者80亿大模型
使用Ollama+Embedding技术在本地实现RAG(检索式生成)提升模型的输出技量
英国giffgaff手机卡0月租低成本保号神卡
LLM操作系统搭配gpt-4o
给你一块钱,你想给哪只小猫解除封印?
坏了,又给你学到真东西了
RAG实战系列,如何针对word文档中的表格进行问答,解决跨页表格问题
吊打GPT和Kimi!这个读文献神器太强了!
【AI项目实战】全网最适合新手入门的【RAG医疗问答系统】教程:如何搭建一个基于RAG的医疗问答系统,我竟30分钟就搞懂了?
LlamaFactory:微调QWe (千问)模型 简单微调多数模型的便捷方法
20分钟学会Qwen2-7b本地部署GraphRAG,无需Ollama,从环境搭建到报错解决全流程,草履虫都能学会~
Transformer真的不难啊!100集带你逐层分解Transformer模型——注意力机制、神经网络、位置编码、编码器、解码器等!算法原理+实战,通俗易懂!
ChatGPT击败50名人类医生
ollama部署LightRAG或GraphRAG的一个小小小坑,以及LightRAG最新可视化展示,html or neo4j
妹子教你在RAG中使用知识图谱构建更聪明的大模型
【GaLora详解】梯度低秩投影,让大模型训练更省内存!
【自学AI Agent】绝对是我在B站见过最全的Agent智能体行业落地应用实战教程!MOE模型、LORA、RAG
Ollama with Vision - 实现多模态 RAG | Ollama 具备视觉功能,以支持多模态检索增强生成 (RAG)
【微调实战】喂饭级教程!!15分钟学会Qwen2-7B微调及部署,帮你从零基础到大神,通俗易懂,连草履虫都能学会~
30分钟学会微调Qwen1.8B大模型,轻松实现天气预报功能
大模型RAG企业项目实战:手把手带你基于Langchain搭建一套完整的RAG系统,原理讲解+代码解析,看完就能跑通!LLM大模型_RAG_大模型微调_多模态
【共享LLM前沿】假如我从11月1号开始学大模型!9小时学会搭建对话机器人办公助手、大模型预训练微调、四大多模态大模型!
太全面了!一口气看完CNN、RNN、GAN、DQN、GNN、LSTM、Transformer、DBN等八大深度学习神经网络算法!比刷剧还爽!
万圣节保留节目:雷神教授在线查论文“科技与狠活”含量
1B多模态小模型只用于图片中表格的结构化提取,支持latex,markdown,html三种格式,效果似乎有点难说
新的AI越狱方法粉碎了GPT-4、Claude、Gemini和LLaMA
AIBI POCKET PET 口袋智能机器人