V
主页
京东 11.11 红包
2.3k star的GitHub 大模型 HPC 项目课程上线啦!(作者亲授)
发布人
带你从0写一个支持llama2/3推理支持cuda加速和int8量化的大模型框架,讲师发起的项目,repo目前2.3k star,帮助很多人获得了大厂岗位。 欢迎关注手写AI-你的AI求职、科研指南 (vx: shouxie_ai) 秋招、转行、名企实习、硬核项目、跳槽、转赛道就选【手写AI扶摇计划】(让top厂高级算法工程师帮你叠企业级工程项目buff) 项目方向:https://uy1hocr6gj.feishu.cn/docx/Q8kKdQIqLoayCTxnMW7csv4Cnbg?from=from_copylink LLM(大语言模型)、多模态大模型、 MoE(专家混合模型)、 HPC(高性能计算、英伟达部署、华为昇腾部署)、自动驾驶感知(点云处理、车道线分割)、基于模仿学习、强化学习的机器人技能学习、具身大模型、VLA(视觉-语音-动作大模型)、机器人Isaac sim仿真与数字孪生、三维重建(nerf、3dgs应用)等
打开封面
下载高清视频
观看高清视频
视频下载器
秋招必备,自制大模型推理框架,征服面试官,cuda写sgemv算子
如何高效使用TensorRT~
自制大模型推理框架-怎么载入权重到显存以及多后端的选择
isaac sim具身智能仿真系列:【1】管他37 21,装好了仿真就算是具身大佬了(佛系胡乱更新中)
英伟达自动驾驶BEVFusion从算法到落地-5.环境配置与debug流程
Kiwi内测体验Infer
具身智能多模态基础:0. 视觉大模型开篇
14-1 从零手写模型量化框架 量化卷积原理
14-5 从零手写模型量化框架(公开部分) 实现Histogram统计activation
14-2从零手写模型量化框架 量化卷积gemm
三分钟本地部署Qwen大模型,保姆级教程!手把手带你本地微调一个法律大模型!无需GPU,只要5G内存!超简单的部署教程,附安装包和微调文档!
trtpy介绍,tensorRT自动配置、代码模版工厂
英伟达GPU高阶教程-onnx模型节点少时反而大怎么办?
你的第一个cuda程序(6):双线性差值理论
【项目】基于DeepStream的工业边缘端部署项目
你的第一个cuda程序:补充视频-关于warpaffine中的缩放比例
使用Ollama+Dify搭建一个专属于自己的知识库!支持多种文件类型,本地部署大模型,效果出奇的好!
14-4 从零手写模型量化框架4 Histogram统计原理
14-3 从零手写模型量化框架 ABS_MAX算法
【PyTorch深度学习实战案例】70个练手项目合集,B站最通俗易懂的pytorch深度学习,还不拿下 !!!PyTorch入门|Pytorch实战
5_CUDA统一内存
B站强推!【PyTorch深度学习实战案例】70个练手项目合集,B站最通俗易懂的pytorch深度学习,还不拿下!!-PyTorch/PyTorch安装
英伟达GPU高阶教程-cuda核函数编译与启动流程分析(1)
YoloV8的高效推理-分割检测
2.3手动插入QDQ节点
只要三分钟快速部署Dify ! 全网最简单WindowsDocker中部署dify教程,大模型教程
第二节,模型的编译和运行压测
这才是研究生该看的代码复现神仙网站!GitHub标星超过50k,左边注释,右边代码,手把手带你逐行解读代码,科研人严选 !
手写扩散模型-课程介绍
4_规约问题及线程束洗牌
一键部署本地私人专属知识库,开源免费!1000多种开源大模型随意部署!
isaac sim具身智能仿真系列:【7】仿真基本环境搭建(佛系胡乱更新中)
「Github一周热点42期」AirDrop替代、计算机视觉工具、llama开发框架等5个项目
企业真实案例-基于RAG报告生成与问答项目-16-报告生成策略优化
优化小技巧-softmax
大模型 一次学个够!0_课程介绍
你真的理解高性能吗-预处理高性能
isaac sim具身智能仿真系列:【8】使劲叠buff!物理属性,碰撞属性,材质属性!(佛系胡乱更新中)
isaac sim具身智能仿真系列:【3】啊啊!你为什么要逼我学isaac sim(佛系胡乱更新中)
全面超越GraphRAG,速度更快,效果更好,落地部署更方便。从原理、本地Qwen2.5-3B模型部署到源码解读,带你全流程解析LightRAG