使用英伟达的 tensorrt-llm 对 qwen 进行加速
发布人
打开封面 下载高清视频 观看高清视频 视频下载器
...
为什么说14b是qwen2.5的更优解
...
qwen大模型推理速度最快的服务搭建
...
ChatGLM3-6B 对比 Qwen-14B，到底谁更强？
...
Qwen1.5-32B 多卡推理
...
vllm-gptq 实现 Qwen 量化模型的加速推理
...
【喂饭教程】20分钟学会微调大模型Qwen2，环境配置+模型微调+模型部署+效果展示详细教程！草履虫都能学会~
...
链家发布中文能力更强的 whisper-large-v3
...
如何实现大模型流式回复以及 API 封装？
...
Qwen2很好，但我选GLM4
...
Qwen 量化模型应该使用 QLoRa 的方式进行微调
...
F5-TTS API服务，提供密钥鉴权能力，UUID参考音频文本管理，兼容AUTODL，为你的后端调用提供赋能，FastAPI+Swagger文档，轻松上手
...
通义千问家族新增 Qwen-1.8B 开源对话大模型
...
20分钟学会微调大模型Qwen2，本地部署+微调法律大模型，效果展示喂饭教程，草履虫都能学会！！！
...
阿里Qwen-7B大模型登顶开源中文榜
...
Yi-6B-Chat 已经开源，但效果如何？
...
使用 qwen.cpp 项目提升 14b 模型的推理速度
...
MeloTTS中英文语音合成
...
太卷了！bge模型登顶中英文embeddings榜！
...
MobileSAM：比FastSAM更快的万物分割模型
...
MiniCPM-V-2.0：优秀的小参数视觉问答模型
...
一分钟搞懂python虚拟环境
...
windows深度学习环境搭建 | 显卡驱动 + cuda + cudnn + pytorch
...
阿里发布通义千问大模型的int8版本
...
白嫖全球 13 家官方免费大模型 API | GPT-4o | Qwen2.5 | Gemini-1.5
...
使用 faster-whisper 提升 OpenAI 新一代语音识别模型的推理速度
...
大型纪录片《图像分类实战》
...
vivo 发布 BlueLM-7B-Chat 开源对话大模型
...
一分钟上手m3e-base微调
...
大型纪录片《小布句子向量模型登顶》
...
MistoLine：演绎线条艺术之美的文生图模型
...
不时在社区发布新Llama模型的邻桌meta同学
...
Yi-1.5 系列模型中文能力测评
...
商汤科技词嵌入模型登顶中文embedding排行榜
...
在钉钉群中使用自定义机器人来获取消息提醒
...
Forefront可能是更好的ChatGPT平台
...
Atom-7B：可能是目前最强的开源中文版Llama2模型
...
新版Qwen-7B模型浴火重生
...
Baichuan2：新版百川模型效果更上一层楼
...
如何对大量文本进行聚类？
...
OpenAI 发布新版开源语音识别模型 whisper-large-v3