V
主页
大模型时代必学!商汤大佬一小时精讲大语言模型推理加速实战,高性能LLM推理框架及细节优化全详解!
发布人
当我们探讨人工智能的众多领域中,大语言模型堪称其中最具前瞻性和挑战性的领域之一。其依赖于海量数据的训练,展现出优越的知识检索能力,在许多领域引起了广泛的关注。然而动辄数十亿,数百亿参数的模型对于推理而言是代价高昂的。为此商汤高性能计算团队设计并实现了 PPL.LLM 框架为大语言模型提供模型推理加速服务,本期视频将就大语言模型推理中的一些常见问题进行解答,并介绍推理服务过程中的许多细节优化问题
打开封面
下载高清视频
观看高清视频
视频下载器
如何科学修复,你被色情片损伤的大脑?
OpenWebUI+Ollama本地部署保姆级教程(非Docker),轻松搭建大语言模型!
【LLM前沿】6小时精讲四大多模态大模型CLIP BLIP VIT MLLM及对话机器人办公助手!绝对的通俗易懂的大模型应用教程!
国内孕妇版疯马秀?毫无下限:是谁在制造焦虑
【全374集】2024最新清华内部版!终于把AI大模型(LLM)讲清楚了!全程干货讲解,通俗易懂,拿走不谢!
【毕设有救了!】基于Pytorch深度学习框架搭建NLP聊天机器人实战,计算机博士带你手撸代码开发Chatbot项目,附配套代码!!
尤瓦尔·赫拉利对谈张静初:AI正在制造慢不下来的人
用GPT-4.0训练小200万倍可直接本地运行的小模型
微软开源1.58 bit量化推理 cpu也能跑100B模型 x86能提速6倍
真的超容易“搞深度学习神经网络到底怎么改代码的啊?”复旦博士教我用一本书搞定!
(超爽中英!) 2024公认最全的【吴恩达大模型LLM】系列教程!附代码_LangChain_微调ChatGPT提示词_RAG模型应用_agent_生成式AI
GPT o1模型使用及API调用
如何部署一个属于自己的ChatGLM-4大语言模型--环境配置+模型微调+模型部署+效果展示,手把手教会你!
【AI大模型】AI Agent智能体详解,初学者的入门综合指南!
吹爆!这绝对是2023B站最通俗易懂的【大模型】微调实战教程,北大博士后1小时精讲大模型原理,包教包会,直接一次性学透!—人工智能/深度学习/多模态大模型
【Agent+RAG】10小时博士精讲AI Agent(人工智能体)系列—提示工程、文本大模型、GPT...
沃尔夫勒姆:语言模型只是一台数学预测机
大语言模型课程Lesson1-1 什么是大语言模型?
2024爆火方向:多模态大模型,北大博士精讲多模态大模型原理、VIT、Clip、SAM等模型实战,看完即可全面了解——人工智能|深度学习|Transformer
吹爆!这绝对是中国科学院最出名的科研进阶教程了没有之一,零基础阶段必看的论文写作指南,小白也能很好懂!
沃尔夫勒姆:机器意识将是基于算法的新型觉醒
多模态大模型综述: 数据、训练任务、架构分类、大模型实战训练
【全748集】这绝对是2024最细最适合自学的AI大模型实战教程:提示词+应用框架+知识库+智能体+微调原理讲解+代码解析,草履虫都能轻松听懂!
现代人类有可能在寒武纪生存吗?
【Grok-Beta 】马斯克为庆祝特朗普当选 宣布【几乎免费的大语言模型API】每月赠送25美金算力金 适用于最新发布的大语言模型Grok-Beta 快来注册
【kaggle有救了】2024年最全kaggle新人比赛项目实战教程,资深大佬手把手教你用python在kaggle摘金牌---强到离谱!/人工智能/科技
33K星标!威斯康星大佬刚发布的 从零构建大模型书 PDF终于拿到了(附PDF)
马斯克的AI大模型五分钟上手!每月25美元免费额度!
一文讲清楚CUDA
这绝对是2024年PyTorch框架天花板教程!清华大佬强力打造!100集带你吃透深度学习!
开源AI女友安装教学 [Open-LLM-VTuber]
Agent+RAG大模型落地应用实践经验分享(超级干货)
练完这些项目,天下没有再难倒你的大模型!
研究生如何快速找到并复现论文代码?用20分钟手把手带你!看完包会的!!--人工智能/深度学习/神经网络
manim所有深奥的数学公式,变成动画片
6篇NeurIPS'24|大语言模型: 模拟人类信任行为、推理边界框架、偏见放大等
mono-internvl:一体化的多模态大模型
【7天学会!】真的太详细了!Python金融分析与量化交易实战教程,全程干货无废话,计算机博士带你一步步吃透,从入门到精通一步到位!
(超中英爽)AI Agent 智能体是什么?为什么最近如此火爆?
【AI大模型】吹爆!这可能是B站最新的Agentic RAG教程了!IBM顶级科学家一对一解答!