vllm-gptq 实现 Qwen 量化模型的加速推理
发布人
打开封面 下载高清视频 观看高清视频 视频下载器
...
太卷了！bge模型登顶中英文embeddings榜！
...
使用 qwen.cpp 项目提升 14b 模型的推理速度
...
为什么说14b是qwen2.5的更优解
...
Qwen1.5-32B 多卡推理
...
如何实现大模型流式回复以及 API 封装？
...
qwen大模型推理速度最快的服务搭建
...
CodeQwen1.5-7B开源！
...
【tdxtrader】通达信连接QMT自动化下单（开源免费）
...
ChatGLM3-6B 对比 Qwen-14B，到底谁更强？
...
不会编程也能玩的量化
...
阿里发布通义千问大模型的int8版本
...
OpenAI 发布新版开源语音识别模型 whisper-large-v3
...
m3e可能是目前最强的开源中文embedding模型
...
阿里Qwen-7B大模型登顶开源中文榜
...
阿里发布中文版的 gte 文本转向量模型
...
Qwen2很好，但我选GLM4
...
30分钟学会微调Qwen1.8B大模型，轻松实现天气预报功能
...
Ollama 无代码运行大模型
...
智源发布新版bge词嵌入模型
...
开源版的 GLM-4 终于来了！
...
Qwen-7B低资源量化推理
...
qwen1.5多型号模型测评体验
...
【量化分析】2024年三季度财报（营收，净利润，现金流）
...
阿里发布Qwen-14B开源对话大模型
...
DevOps 开发运维类 qwen 大模型
...
使用 OpenCompass 对大模型进行测评
...
Qwen1.5-MoE: 1/3的激活参数量达到7B模型的性能
...
MobileSAM：比FastSAM更快的万物分割模型
...
【墙裂推荐】25分钟搞定qwen大模型本地部署+微调法律大模型（只需5G内存）
...
如何稳定访问github和huggingface
...
Yi-1.5 系列模型中文能力测评
...
比 gpt4 翻译效果更好的开源大模型？
...
Qwen 量化模型应该使用 QLoRa 的方式进行微调
...
Baichuan2：新版百川模型效果更上一层楼
...
忽然发现，Qwen的简化回答很有趣
...
近期较为先进的背景消除模型
...
喂饭教程！25分钟本地部署Qwen2大模型：配置、微调、部署+效果展示，带你训练自己的行业大模型！
...
中文开源句子向量模型榜首又易主了？
...
Animagine-XL-2.0：新版动漫绘图大模型
...
20分钟学会微调大模型Qwen2，本地部署+微调法律大模型，效果展示喂饭教程，草履虫都能学会！！！