V
主页
在本地环境中运行大模型LLAMA3-1-70B,支持128k超长上下文
发布人
跑的是AWQ模型,下载地址: https://hf-mirror.com/hugging-quants/Meta-Llama-3.1-70B-Instruct-AWQ-INT4 摘要原文地址: https://www.youtube.com/watch?v=zMYvGf7BA9o&t=85s 本地搭建有兴趣的可以参考: https://www.bilibili.com/read/readlist/rl823654
打开封面
下载高清视频
观看高清视频
视频下载器
llama3.1国内可直接使用教程,405B堪称最强开源大模型,API无限调用,迪哥带你怎么玩,手把手教你打造自己的大模型!-人工智能、大模型、深度学习、NLP
Windows下中文微调Llama3,单卡8G显存只需5分钟,可接入GPT4All、Ollama实现CPU推理聊天,附一键训练脚本。
微调一个模型需要多少GPU显存?
本地部署 Llama3 – 8B/70B 大模型!最简单的3种方法,支持CPU /GPU运行 !100% 保证成功!! | 零度解说
家庭PC本地部署LLama3 70B模型测试,对比70B和8B模型的效果,看看人工智障距离人工智能还有多远
Llama 3.1 一键本地部署!Meta 最强开源大模型,100%保证成功,无需GPU也能运行,可离线使用 | 零度解说
双4090部署qwen72b大模型 每秒150tokens
半块RTX4090 玩转70B大语言模型
万元预算本地流畅跑Qwen1.5_72B AWQ
LLAMA 3.1来了 8B,70B,405B 效果如何
openai前创始人做的AI超过它了!Claude3.5sonnet是真的强!
昨晚刚发布的开源AI模型羊驼3.1,电脑上运行只需三步
从0.5B到340B的LLM都需要多少显存?
【13B大模型无用】大家不需要用自己的8G显存跑大模型了,没意义,70B也许成,我试试
4x2080ti 22G 组装低成本AI服务器跑Qwen1.5-110B-int4竟如此丝滑?
八块魔改2080ti显卡跑llama-3-70b-instruct-GPTQ
Llama3.1 405B开源大模型!挑战Claude3.5和GPT-4o!微调Llama3.1 8B模型+GraphRAG搭建本地知识库!
在4090上完美运行70B的llama2模型
在本地运行llama3中文版大模型AI对话,确实是太强了
Llama3.1提前泄露;OpenAI开卷小模型!还有其他8件大事~
低成本运行通义千问72B,实现高效高质翻译任务,媲美GPT4
Meta发布最新开源大模型Llama 3.1 | 基于Ollama与Groq的使用教程
推理能力最强的llama3.1 405B,不属于中国人
Ollama 0.2带来重大更新 - 支持多模型并发啦 🍭
4060Ti跑LLama3.1和Qwen2测试对比
官宣:Meta发布最新开源大模型Llama 3.1 !API无限调用,国内可直接使用
十个问题测试Llama-3.1-8B-Instruct,Llama-3-8B-Instruct,Yi-1.5-9B-Chat,Qwen2-7B-Instruct
在本地环境中直接运行未经量化的全尺寸模型:Smaug-Llama-3-70B
Llama 3.1的405b真实评测
如何优雅的、本地化、运行Meta 最新的大模型Llama 3.1
LLama3.1:理想很丰满,但现实很骨感!
最强开源大模型,超大杯的llama3:405B :)
Mistral NeMo:目前最强大的大语言模型!全面测试击败Qwen2与DeepSeek-V2及其他
Meta发布T0级开源大模型,终结闭源霸权
Ollama 推理Yi 9B本地大模型: 沉浸式翻译, 阅读原版英文书籍
LLama3.1:Meta给了李彦宏一记耳光
Qwen2 72B Instruct 全量模型本地运行实测
mlc-llm替换ollama部署最新开源的Llama-3.1大模型(可在树莓派上部署)
llama3.1-405B:首个接近头部闭源大模型的开源大模型,meta发布千亿参数的大模型,模型原生具备工具使用能力、多语言能力等,在很多测评指标上超越gpt
智普最新开源大模型GLM-4-9b-chat