V
主页
Cuda从零学-秋招转行拿高薪-从零自制大模型推理框架
发布人
手写C++大模型推理框架,支持LLama的推理以及文本生成等功能。CUDA对算子的加速,让大模型推理框架的运算速度更上一层楼,在这里你会学习到CUDA编程语言的写法,尤其能学到怎么用CUDA去写一个算子。
打开封面
下载高清视频
观看高清视频
视频下载器
自制大模型推理框架-KVCache动手实现-原理篇
自制大模型推理框架-使用Nsight compute对Cuda算子调优
秋招好项目-《动手自制大模型推理框架》-算子的创建和权重的载入
自制大模型推理框架-KVCache动手实现-秋招快人一步
uniapp+vue3+node+智谱AI接口前端打造AIGC大模型,全网第一,文生文,文生图,打造一个自己能用别人也能用的产品,毕业设计,面试作品
2024最新AI大模型训练营
试看马上删-从零自制大模型推理框架,内存和显存资源是怎么被管理的。
秋招项目-从零自制大模型推理框架-算子类的设计
秋招必备-《动手自制大模型推理框架》-用Cuda实现GEMV算子
自制大模型推理框架-支持大模型int8分组量化
强推!这可能是唯一能将AI Agent讲清楚的课程了,公认最适合新手入门Agent大模型实战系列,3小时全流程解读分析,简直比刷剧还爽!人工智能|大模型
自制深度学习推理框架-前言-第一课
自制大模型推理框架-Cuda算子再优化和NVCompute分析性能
自制深度学习推理框架-第七课-构建自己的计算图
记上周秋招面试一小伙的全过程- AI HPC/AI推理优化方向
【代码逐行解读】CNN-LSTM-Attention:神经网络时间序列预测!Informer时间序列预测源码解读
RAG增效SQL语句生成,开启大模型做数据查询新思路,本地Qwen2-7b模型也能又快又准
本地部署 Llama3.1 405B大模型!最简单的方法,支持CPU /GPU运行 !100% 保证成功!!
秋招项目-从零自制大模型推理框架-张量类的设计
吹爆!这可能是B站最新的大模型教程了,基于LangChain的大模型应用开发以及RAG工作原理解读,一个非常落地的AI大模型项目!人工智能|机器学习|深度学习
【多模态+知识图谱】完全自学从零构建知识图谱!基于知识图谱的六大项目实战!医药问答系统、知识抽取、推荐系统、Neo4j数据库、大模型
强推!基于LangChain实现RAG检索增强+吴恩达构建和评估高级的RAG模型应用教程,实现大模型落地!
【llama3.1】国内可直接使用教程,405B堪称最强开源大模型,API无限调用,迪哥手把手教你你怎么玩,这也太强大了!
【2024最新】54个大模型实战项目,练完即可就业,从入门到进阶,基础到框架,你想要的全都有,建议码住!超级适合小白入门学习,大模型教程
Dify快速入门 | 本地部署Dify基于Llama 3.1和OpenAI创建聊天机器人与知识库
微调Llama 3.1,用神器Unsloth
自制深度学习推理框架-第10节-卷积算子的实现和im2col加速计算的原理
相信我,你也能在3分钟内搞定大模型的本地部署!3种方式(GPT4All,Ollama,llamafile),无需GPU,拿下llama3.1,qwen2
B站强推!如何从零到一搭建一套完整RAG系统!大模型RAG企业项目实战简直太实用了!LainChain、rag增强检索/LLM大模型/大模型学习路线/微调
吹爆!这可能是B站最全的大模型学习路线图,结合多年实战经验总结的大模型学习方法,还学不会大模型你来打我!人工智能|神经网络|AI
LlamaCoder,开源且免费,基于Llama3.1-405B大模型,让每个人的想法变成应用程序
强推!不愧是公认的讲的最好的【AI大模型全套教程】李宏毅大佬12小时带你从入门到进阶,一套全解决!
【整整600集】字节大佬196小时讲完的AI大模型教程(LLM)零基础入门到精通全套教程,全程干货无废话,这还学不会,我退出IT圈!微调/模型训练/私有化部署
将图片或PDF中复杂的表格数据转成纯文本输入大模型,如何保持表格文字的排版布局不变?
【研1.5基本功 (真的很简单)DeepSpeed & Accelerate】学点大模型基建准没错
2024最新!这可能是目前最系统的【AI大模型】教程了,一口气带你学完LLM主流开源大模型,看完这一下全跑通了!!!(文心一言/百度千帆/讯飞星火大模型)
自制深度学习推理框架-第五课-起飞!框架中的算子注册机制
RAG实战系列(医疗知识问答),从零开始实现多路召回检索,带你了解检索流程和算法原理
(超爽中英!) 2024公认最全的【吴恩达大模型LLM】系列教程!附代码_LangChain_微调ChatGPT提示词_RAG模型应用_agent_生成式AI
周冰心——「人工智能发展简史」