V
主页
自制Cuda大模型推理框架-讲解一个从零手写的Qwen2.5推理
发布人
手写C++大模型推理框架,支持LLama的推理以及文本生成等功能。CUDA对算子的加速,让大模型推理框架的运算速度更上一层楼,在这里你会学习到CUDA编程语言的写法,尤其能学到怎么用CUDA去写一个算子,支持LLama模型推理,支持int8推理。 目录链接:https://l0kzvikuq0w.feishu.cn/docx/ZF2hd0xfAoaXqaxcpn2c5oHAnBc
打开封面
下载高清视频
观看高清视频
视频下载器
田渊栋博士:传统符号推理和大模型推理的融合之路
深度学习环境配置一套搞定:anaconda+pytorch+pycharm+cuda全详解,带你从0配置环境到跑通代码!
【GPU体系结构基础 CoffeeBeforeArch】
高性能算子测试框架搭建
自制大模型推理框架-使用Nsight compute对Cuda算子调优
Cuda从零学-秋招转行拿高薪-从零自制大模型推理框架
多模态模型CLIP深度讲解
从零自制大模型推理框架,一个靠谱的C++程序员是怎么练成的。
【附源码】2024最新53个大模型实战项目!练完即就业Ⅰ基础到框架Ⅰ适合小白入门_LLM_RAG_Agent_ChatGPT_Prompt
自制深度学习推理框架-前言-第一课
直接带你把Transformer手搓一遍,这次总能学会Transformer了吧!
【全463集】禁止自学走弯路!环境感知、目标检测、语义分割、强化学习、决策与控制算法等八大自动驾驶核心算法一口气学完!
秋招项目-从零自制大模型推理框架-张量类的设计
cuda实现matmul的重新解读
MLLM多模态大模型三大奠基模型:VIT/CLIP/BLIP模型原理详解+项目实战,通俗易懂的大模型入门教程!
【YOLOv11】一小时速通版!知名博士逐一解读配置文件以及代码复现,环境安装+推理+自定义数据集搭建与训练,入门到精通!
秋招看过来!自制大模型推理框架项目-sofmax算子的cuda实现
【Agent+RAG】10小时博士精讲AI Agent(人工智能体)系列—提示工程、文本大模型、GPT...
秋招、转行必备-动手自制大模型推理框架-CUDA显存管理
2024年吃透AI大模型(LLM+RAG系统+GPT-4o+OpenAI) 全程通俗易懂,别再走弯路了,逼自己一周学完,少走99%弯路,学不会我退出IT界!
【并行计算 CS149 2023】斯坦福大学—中英字幕
2024吃透AI大模型(LLM+RAG系统+GPT-4o+OpenAI),3天学完,让你少走99%弯路!
【200集付费】一口气学完回归算法、聚类算法、决策树、随机森林、神经网络、贝叶斯算法、支持向量机、神经网络等十二大机器学习算法一次性学完!
大模型时代下的端到端自动驾驶(上篇)
秋招看过来!自制大模型推理框架-怎么用Cuda实现LLama模型中的MLP层
喂饭教程!25分钟本地部署Qwen2大模型:配置、微调、部署+效果展示,带你训练自己的行业大模型!
温和的走进深度学习(下)
试看马上删-从零自制大模型推理框架,内存和显存资源是怎么被管理的。
【强到离谱】草履虫都能学会!OpenCV+YOLO 实时目标检测,计算机博士手把手带你做毕设!(深度学习/计算机视觉/YOLOlOpenCv)
【CUDA 入门课程 CoffeeBeforeArch】
B站强推!【Matlab与机器学习的入门进阶与提高】花3小时就能从入门到精通,草履虫都能学会的机器学习算法!人工智能|决策树与随机森林|机器学习
卷积到底卷了啥?复旦大佬带你三小时快速上手【卷积神经网络】入门及实战,全程大白话讲解比刷剧还爽!
如何构建自己的数据集?
神经网络必看!如何从零入门CNN、RNN、GAN、GNN、DQN、Transformer、LSTM等!清华大佬一天就教会了我如何入门神经网络算法,绝对通俗易懂
【CUDA 编程 elliotarledge】
自制大模型推理框架-支持大模型int8分组量化
每个初学深度学习的小伙伴只需要学这三个项目!学完以后可以说没有什么深度学习代码能够难住你!
导师推荐的数据库!4个神级代码复现网站,里面99%的论文都能找到!
自编教材实操课程分享:第十章—CUDA程序编写
强推!这绝对是B站最全的(python+机器学习+深度学习)系列教程,草履虫都能学会,学不会你来锤爆我!人工智能/机器学习/深度学习/python/神经网络