京东 11.11 红包
Transformers支持3种量化算法性能对比 #小工蚁
发布人
打开封面 下载高清视频 观看高清视频 视频下载器
...
AWQ大模型量化INT4比FP16 推理快2倍，GPU内存1/3
...
Qwen1.5系列6个模型如何选择？ AWQ还是GPTQ？#小工蚁
...
用GPTQ算法量化大型模型 大幅减少GPU使用并提高准确率
...
DeepSpeed-FastGen比vLLM推理性能快2倍，SplitFuse策略 #小工蚁
...
AutoLabel：自动标注，比人快100倍，准确度和人一样！#小工蚁 #大语言模型
...
Embedding模型8bit量化推理 成本下降4倍，准确度下降0.7%
...
LangGraph Autogen CrewAI 哪个Agent框架更好？#小工蚁
...
Qwen2.5-Coder写代码大模型技术报告解读 #小工蚁
...
llama.cpp大神实现投机采样，让大模型推理性能直接翻倍 #小工蚁
...
M3E中文文本嵌入模型：替代OpenAI text-embedding-ada-002的最佳选择
...
开源最强VLM Molmo #小工蚁
...
如何消除大模型幻觉？ 提高准确率 LoRA+MoE
...
传统推荐算法遇强敌：LLM微调后的表现如何？中科大和谷歌为你解答！#小工蚁 #llm #推荐系统
...
Qwen2-7B-Instruct不同量化方法准确度和性能比较
...
PDF文档文字、表格混排自动识别，增强RAG应用准确度 #小工蚁
...
如何提高垂直领域RAG准确率？ #小工蚁
...
为什么说AI芯片的最大问题不是算力，而是内存带宽？ #小工蚁 #英伟达
...
MindsDB开源构建AI应用平台有啥亮点？#小工蚁
...
ClickHouse和Elastisearch 深度对比
...
Text2SQL Llama 7B模型微调DuckDB-NSQL-7B #小工蚁
...
哪种模型偏好微调最优？DPO、IPO、KTO算法 #小工蚁
...
大模型量化技术概述
...
智源公开大模型SFT训练数据集微调后性能达到和超过GPT4
...
清华发布SmartMoE一种高效训练专家模型网络算法 #小工蚁 #清华 #MoE
...
EMU3大统一的多模态大模型 #小工蚁
...
Reflection开源，让大模型学习“反思”
...
多个大模型哪个输出更好对比工具 #小工蚁
...
多跳智能问答EfficientRAG更胜一筹 #小工蚁
...
SQLEval Text2SQL能力评估实践 #小工蚁
...
解决内容冲突RAG算法 FILCO #小工蚁
...
偏好学习提升LLM的通用推理能力 #小工蚁
...
人类反馈强化学习最新替代方法SimPO #小工蚁
...
大语言模型快速JSON解码算法 Jump Forward Decoding #小工蚁
...
2024年最新斯坦福人工智能报告十大观点 #小工蚁
...
TableBench全面基于表格问答复杂任务评测框架 #小工蚁
...
阿里发布Text2SQL最新实践开源模型准确度超GPT4
...
商汤开源Piccolo2大模型有啥亮点？#小工蚁
...
如何将LLM输出文本转为结构化数据？ #小工蚁 #langchain
...
使用Triton内核加速Llama3-70B FP8推理 #小工蚁
...
如何让清华ChatGLM2-6b模型推理性能提升20倍？ #小工蚁 #chatglm2