【大模型研究】（2）：在AutoDL上部署，猎户星空-14B-Chat-Plugin大模型，使用脚本一键部署fastchat服务和界面，显存占用28G
发布人
打开封面 下载高清视频 观看高清视频 视频下载器
...
【大模型研究】（4）：在AutoDL上部署，一键部署DeepSeekCoder大模型，可以快速生成各种代码，程序员代码生成利器！效率非常高！
...
【大模型研究】（9）：通义金融-14B-Chat-Int4金融大模型部署研究，在autodl上一键部署，解决启动问题，占用显存10G，有非常多的股票专业信息
...
20分钟学会Qwen2-7b本地部署GraphRAG，无需Ollama，从环境搭建到报错解决全流程，草履虫都能学会~
...
使用autodl服务器，RTX 3090 * 3 显卡上运行， Yi-34B-Chat模型，显存占用60G
...
喂饭教程！25分钟本地部署Qwen2大模型：配置、微调、部署+效果展示，带你训练自己的行业大模型！
...
【LocalAI】（5）：在autodl上使用4090Ti部署LocalAIGPU版本，成功运行qwen-1.5-14b大模型，占用显存8G
...
【大模型研究】（3）：在AutoDL上部署，使用脚本一键部署fastchat服务和界面，部署生成姜子牙-代码生成大模型-15B，可以本地运行，提高效率
...
【大模型研究】（1）：从零开始部署书生·浦语2-20B大模型，使用fastchat和webui部署测试，autodl申请2张显卡，占用显存40G可以运行
...
终于弄明白FastChat服务了，本地部署ChatGLM3，BEG模型，可部署聊天接口，web展示和Embedding服务！
...
【大模型研究】（8）：在AutoDL上部署，一键部署Qwen-1_8B-Chat-Int4量化版，需要2.5G显存，非常适合在智能机器人/边缘计算上部署
...
三分钟一键部署Ollama！解压即用！从安装到微调，只要五步，免费开源 AI 助手 Ollama ，带你从零到精通，保姆级新手教程，100%保证成功！
...
【大模型研究】（5）：在AutoDL上部署，一键部署DeepSeek-MOE-16B大模型，可以使用FastChat成功部署，显存占用38G，运行效果不错。
...
使用autodl服务器，两个3090显卡上运行， Yi-34B-Chat-int4模型，用vllm优化，增加 --num-gpu 2，速度23 words/s
...
【B站最详细】使用Ollama+fastGpt搭建一个全能知识库！专属自己！支持多种文件类型，实现本地化大型模型部署，效果非凡！
...
【大模型研究】（6）：在AutoDL上部署，成功部署Mixtral-8x7B大模型，8bit量化，需要77G显存，355G硬盘
...
【xinference】（11）：在compshare上使用4090D运行xinf和chatgpt-web，部署GLM-4-9B-Chat大模型，占用显存18G
...
在AutoDL上，使用4090显卡，部署ChatGLM3API服务，并微调AdvertiseGen数据集，完成微调并测试成功！
...
使用autodl服务器，在A40显卡上运行， Yi-34B-Chat-int4模型，并使用vllm优化加速，显存占用42G，速度18 words/s
...
【Dify知识库】（1）：本地环境运行dity+fastchat的ChatGLM3模型，可以使用chat/completions接口调用chatglm3模型
...
【chatglm】（9）：使用fastchat和vllm部署chatlgm3-6b模型，并简单的进行速度测试对比。vllm确实速度更快些。
...
【chatglm3】（7）：大模型训练利器，使用LLaMa-Factory开源项目，对ChatGLM3进行训练，特别方便，支持多个模型，非常方方便
...
30分钟学会Qwen2.5-3B本地部署LightRAG，完胜GraphRAG！从模型部署到源码解读，带你全流程解析，速度快，效果好，落地部署更方便！！！
...
Qwen2.5-Coder：32B开源模型私有化部署必看教程！独家讲解Qwen模型零门槛本地部署&ollama部署流程丨手把手教你玩转开源代码模型！！
...
【chatglm3】（10）：使用fastchat本地部署chatlgm3-6b模型，并配合chatgpt-web的漂亮界面做展示，调用成功，vue的开源项目
...
【chatglm3】（8）：模型执行速度优化，在4090上使用fastllm框架，运行ChatGLM3-6B模型，速度1.1w tokens/s，真的超级快。
...
【LocalAI】（6）：在autodl上使用4090部署LocalAIGPU版本，成功运行qwen-1.5-32b大模型，占用显存18G，速度 84t/s
...
【candle】（4）：使用rsproxy安装rust环境，使用candle项目，成功运行Qwen1.5-0.5B-Chat模型，修改hf-hub下载地址
...
在云主机上使用4090部署，使用fastchat框架成功部署Baichuan2-13B-Chat模型，8bit运行模式，可以进行问答啦！
...
【LocalAI】（4）：在autodl上使用3080Ti部署LocalAIGPU版本，成功运行qwen-1.5-7b大模型，速度特别快，特别依赖cuda版本
...
【全100集】清华大佬终于把AI大模型（LLM）讲清楚了！通俗易懂，2024最新内部版！拿走不谢，学不会我退出IT圈！
...
【喂饭教程】ollama+FastGPT快速搭建本地知识库，免费、无限制、保护隐私、无需网络~小白入门必看的保姆级教程！
...
OmniGen新版一键包(支持NSFW),性能优化,40步出图,8G显存可玩,模型体积优化,AI图像修改,AI人物迁移,多模态图片融合提示词,多模态图像理解
...
15分钟快速上手，如何为RAG选择一款合适的embedding模型？（附教程）
...
【大模型研究】（7）：在AutoDL上部署，一键部署最新的chatglm3-6b，8bit量化需要8G内存，发现下载需要48G硬盘了，但是模型只有12G
...
【xinference】（9）：本地使用docker构建环境，一次部署embedding，rerank，qwen多个大模型，成功运行，非常推荐
...
【LLM前沿】6小时精讲四大多模态大模型CLIP BLIP VIT MLLM及对话机器人办公助手！绝对的通俗易懂的大模型应用教程！
...
【Dify知识库】（12）：在autodl上，使用xinference部署chatglm3，embedding，rerank大模型，并在Dify上配置成功
...
【deepseek】（2）：使用3080Ti显卡，fastchat运行deepseek-coder-6.7b-instruct模型，出现死循环EOT的BUG
...
【大模型知识库】（2）：开源大模型+知识库方案，docker-compose部署本地知识库和大模型，毕昇+fastchat的ChatGLM3，BGE-zh模型
...
直接带你把Transformer手搓一遍，这次总能学会Transformer了吧！