V
主页
BurstAttention长上下文LLM推理和训练加速算法 #小工蚁
发布人
BurstAttention长上下文LLM推理和训练加速算法 #小工蚁
打开封面
下载高清视频
观看高清视频
视频下载器
无限上下文大模型推理加速StreamingLLM #小工蚁
多模态RAG检索增强生成2种实现方式 #小工蚁
MInfernece长上下文大模型推理加速4~10倍 #小工蚁
VLM视觉大模型如何评测?MMMU排行榜 #小工蚁
Text2SQL Llama 7B模型微调DuckDB-NSQL-7B #小工蚁
使用LangChain实现Tool Calling #小工蚁
Prefix Caching原理和对大模型推理加速影响 #小工蚁
多模态Embedding开源模型 Visualized BGE #小工蚁
MindsDB开源构建AI应用平台有啥亮点?#小工蚁
Flash-Decoding长上下文LLM推理速度提8倍 #小工蚁
如何快速下载Huggingface大模型权重?#小工蚁
微软开源Dynamic SplitFuse加速大模型推理功能实践 #小工蚁
人类反馈强化学习最新替代方法SimPO #小工蚁
LightLLM轻量级高性能推理框架 和vLLM哪个更强?
SQLEval Text2SQL能力评估实践 #小工蚁
Smaug开源大模型排行第一基于Qwen72B微调大模型 #小工蚁
构建多模态RAG应用实践 #小工蚁
算子优化MoE模型推理加速4倍
UC伯克利大模型调用函数排行榜,准确率高吗?#小工蚁
零一万物发布Yi-9B大模型,代码数学推理能力全面提升 #小工蚁
国产首个开源MoE大模型DeepSeekMoE 16B #小工蚁
微调Llama-3 8B模型只需一步 ORPO算法介绍和实践 #小工蚁 #llama3
LangChain LCEL如何开发(2/3)#小工蚁
如何让智能体团队协作开源框架CrewAI #小工蚁
Qwen1.5-72B上下文推理准确度评估演示16K时最优 #小工蚁
在RAG应用中LLM不同上下文检索和推理准确度不同 #小工蚁
Qwen2-7B-Instruct不同量化方法准确度和性能比较
哪种模型偏好微调最优?DPO、IPO、KTO算法 #小工蚁
Qwen2-Audio语音多模态大模型使用实践 #小工蚁
mBART开源多语言翻译模型支持全球最常用50种语言 #小工蚁
AWQ和GPTQ大模型4bit量化 哪种算法更优?#小工蚁
大语言模型快速JSON解码算法 Jump Forward Decoding #小工蚁
IRCoT多次推理检索RAG算法 #小工蚁
如何用13B模型击败GPT-4 训练数据被评估数据污染
腾讯开源LlaMA Pro增强LLM性能 新方法,打造行业模型 #小工蚁
使用RTX4090+GaLore算法 全参微调Yi-6B大模型
LLM如何接入到个人微信? 演示群聊中AI自动回复
不是,你不要这么稳啊,我算法还没写完~
YaFSDP又一个分布式训练框架 比FSDP快20% #小工蚁
使用ExLlamaV2消费级GPU上 运行Llama2 70B #小工蚁