V
主页
京东 11.11 红包
自己动手部署本地开源大模型(Ollama+WebUI)（上）
发布人
使用 Ollama 和 WebUI 在 Docker 环境下搭建自己的大模型平台是一个很好的选择。这种方式可以在本地运行和管理大型语言模型，同时提供一个友好的交互界面。 以下是搭建步骤： 一. 安装 Docker 首先，确保系统已经安装了 Docker。如果没有，可以从官方网站下载并安装： https://www.docker.com/products/docker-desktop 二. 安装配置Ollama 1. 拉取 Ollama 镜像 打开终端，运行以下命令拉取 Ollama 的 Docker 镜像： docker pull ollama/ollama 2. 运行 Ollama 容器 使用以下命令启动 Ollama 容器： docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama 这个命令会在后台运行 Ollama，并将 11434 端口映射到主机。 3. 安装模型 进入 Ollama 容器并安装想要使用的模型，例如 llama2、qwen:1.8b： docker exec -it ollama ollama run qwen:1.8b docker exec -it ollama /bin/bash #进入容器 再运行ollama run qwen:1.8b 按快捷键Ctrl+p+q离开容器 三. 安装配置WebUI 现在需要设置一个 WebUI 来与 Ollama 交互。当前比较流行的是 ollama-webui。 可从https://github.com/open-webui/open-webui了解更多信息。 （1）如果ollama是本地安装的 docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main 现在，可以在浏览器中访问 http://localhost:3000 来使用 WebUI 了。 （2）如果Ollama是Docker安装的 使用以下命令启动 WebUI 容器： docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://host.docker.internal:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main 现在，可以在浏览器中访问 http://localhost:8080来使用 WebUI 了。
打开封面
下载高清视频
观看高清视频
视频下载器
自己动手部署本地开源大模型(Ollama+WebUI)（下）
【喂饭教程】20分钟学会微调大模型Qwen2，环境配置+模型微调+模型部署+效果展示详细教程！草履虫都能学会~
【B站最详细】使用Ollama+fastGpt搭建一个全能知识库！专属自己！支持多种文件类型，实现本地化大型模型部署，效果非凡！
CentOS下安装和配置Docker
Qwen大模型本地部署教程！教你本地微调一个法律大模型，无需GPU，只要5G内存！附安装包和微调文档！
immich 在飞牛NAS Docker中部署
Qt+Ollama开源大模型随意部署，免安装解压即用
全面超越GraphRAG，速度更快，效果更好，落地部署更方便。从原理、本地Qwen2.5-3B模型部署到源码解读，带你全流程解析LightRAG
一键部署本地私人专属知识库，开源免费！1000多种开源大模型随意部署！
【AI大模型】使用Ollama+Dify搭建一个专属于自己的知识库！支持多种文件类型，本地部署大模型，效果出奇的好！
【2024最新】提示词工程（Prompt Engineering）从入门到精通教程，1小时彻底搞懂大模型提示词工程，全程干货无废话！
【中英精校】2024.10.17 | 英伟达发布最新开源大模型 | 超越GPT-4o和3.5 Sonnet
OpenWebUI+Ollama部署教程（非Docker）【AI配音】
第一讲：1.4 数据库关系模型
千问Qwen2.5 实测，对战 Llama 和 Claude，谁更胜一筹呢？
飞牛NAS使用Docker+CF实现穿透
真的非常好用！计算机博士一小时带你快速搭建RAGFLOW部署本地知识库，构建你的专属助理！_大模型、人工智能、LLM
本地部署Molmo-7B多模态大模型媲美Llama3.2-90B！全方位测评：图像识别、视频分析，打造多模态视觉AI助手！轻松实现监控视频快速找人
【RAG项目实战】手把手带你搭建一套完整的RAG系统，原理讲解+代码解析，草履虫都能学明白！LLM大模型/RAG/LangChain/知识库
墙裂推荐！25分钟搞定qwen大模型本地部署+微调法律大模型（只需5G内存）
全面解析！LightRAG 和 GraphRAG，哪个速度更快，效果更好，部署更方便！从本地模型部署到源码解读
【B站最全】2024最新清华内部版大模型课程第二季！从入门到进阶！全程干货讲解，通俗易懂，学完及就业！
如何训练你自己的o1模型？TPO？？
NAS实用Docker容器推荐指南-Vaultwarden自建开源密码管理器(bitwarden)
2024.10.19 | HybridRAG：终极 RAG 引擎 - 知识图 + 矢量检索！比 GraphRAG 更好！
【小白教程】20分钟学会qwen大模型本地部署+微调法律大模型，仅需5G内存，小白一学就会！
【AI大模型】十分钟博士教你使用RAGFlow+Ollama搭建超实用中文知识库！基于OCR和文档解析的RAG
免费使用Qwen 2.5 72B：Hugging Face全平台+API+本地部署
【教程】home assistant接入大模型，小爱唤醒与控制
dify实战教程补完计划1-通过docker-compose部署AI自动生成流程图、序列图、甘特图等图表的agent
【B站第一】清华大佬1000分钟讲完的AI大模型（LLM）入门到实战全套学习教程！整整135集，全干货无废话！还学不会，我退出AI圈！！
图神经网络GNN导引
【中英精校】2024.10.16 | LightRAG：对于 RAG 系统来说，比 GraphRAG 更高效的解决方案？
【AI大模型】使用Ollama+AnythingLLM 搭建一个本地私有化知识库！从安装到部署，手把手教你本地化RAG!
【中文配音】LightRAG：RAG系统比GraphRAG更有效的解决方案
1小时使用RAGFlow+Ollama构建本地知识库！采用OCR和深度文档理解结合的新一代RAG引擎，windows、docker
有救了！大模型RAG企业级项目实战：手把手带你搭建一套属于你的RAG系统，原理讲解+代码解析！LLM_大模型_多模态_Agent_RAG
居然还有人不知道为啥使用Docker？
【大模型实战合集】2024年公认最好的大模型实战项目教程，大模型零基础到进阶，学完即就业超越99%的人（附带源码和文档）
详解本地运行大模型的三种实用渠道：Jan、LM Studio、Ollama，Hugging Face 海量 GGUF 模型可以通过 Ollama 一键运行
