BurstAttention长上下文LLM推理和训练加速算法 #小工蚁
发布人
打开封面 下载高清视频 观看高清视频 视频下载器
...
无限上下文大模型推理加速StreamingLLM #小工蚁
...
多模态RAG检索增强生成2种实现方式 #小工蚁
...
MInfernece长上下文大模型推理加速4～10倍 #小工蚁
...
VLM视觉大模型如何评测？MMMU排行榜 #小工蚁
...
Text2SQL Llama 7B模型微调DuckDB-NSQL-7B #小工蚁
...
使用LangChain实现Tool Calling #小工蚁
...
Prefix Caching原理和对大模型推理加速影响 #小工蚁
...
多模态Embedding开源模型 Visualized BGE #小工蚁
...
MindsDB开源构建AI应用平台有啥亮点？#小工蚁
...
Flash-Decoding长上下文LLM推理速度提8倍 #小工蚁
...
如何快速下载Huggingface大模型权重？#小工蚁
...
微软开源Dynamic SplitFuse加速大模型推理功能实践 #小工蚁
...
人类反馈强化学习最新替代方法SimPO #小工蚁
...
LightLLM轻量级高性能推理框架 和vLLM哪个更强？
...
SQLEval Text2SQL能力评估实践 #小工蚁
...
Smaug开源大模型排行第一基于Qwen72B微调大模型 #小工蚁
...
构建多模态RAG应用实践 #小工蚁
...
算子优化MoE模型推理加速4倍
...
UC伯克利大模型调用函数排行榜，准确率高吗？#小工蚁
...
零一万物发布Yi-9B大模型，代码数学推理能力全面提升 #小工蚁
...
国产首个开源MoE大模型DeepSeekMoE 16B #小工蚁
...
微调Llama-3 8B模型只需一步 ORPO算法介绍和实践 #小工蚁 #llama3
...
LangChain LCEL如何开发（2/3）#小工蚁
...
如何让智能体团队协作开源框架CrewAI #小工蚁
...
Qwen1.5-72B上下文推理准确度评估演示16K时最优 #小工蚁
...
在RAG应用中LLM不同上下文检索和推理准确度不同 #小工蚁
...
Qwen2-7B-Instruct不同量化方法准确度和性能比较
...
哪种模型偏好微调最优？DPO、IPO、KTO算法 #小工蚁
...
Qwen2-Audio语音多模态大模型使用实践 #小工蚁
...
mBART开源多语言翻译模型支持全球最常用50种语言 #小工蚁
...
AWQ和GPTQ大模型4bit量化 哪种算法更优？#小工蚁
...
大语言模型快速JSON解码算法 Jump Forward Decoding #小工蚁
...
IRCoT多次推理检索RAG算法 #小工蚁
...
如何用13B模型击败GPT-4 训练数据被评估数据污染
...
腾讯开源LlaMA Pro增强LLM性能 新方法，打造行业模型 #小工蚁
...
使用RTX4090+GaLore算法 全参微调Yi-6B大模型
...
LLM如何接入到个人微信？ 演示群聊中AI自动回复
...
不是，你不要这么稳啊，我算法还没写完~
...
YaFSDP又一个分布式训练框架 比FSDP快20% #小工蚁
...
使用ExLlamaV2消费级GPU上 运行Llama2 70B #小工蚁