V
主页
vLLM本地部署GLM-4-9b大模型,ChatTTS+AutoGen实现多AI对话转语音!打造AI小说智能体!AI写高考作文
发布人
本期视频主要内容: 详细讲解如何使用vLLM在本地部署glm-4-9b-chat模型,并创建类似OpenAI接口的API。然后通过Colab调用API,测试模型效果,包括让模型讲笑话、用Python实现冒泡排序等。 以2024年广东高考作文题为例,演示用AutoGen框架让GLM模型写作文,gpt-4给出评分和反馈,展示GLM模型的写作能力。 讲解如何在本地快速部署ChatTTS语音模型,使用pip安装,通过命令行生成高质量的男女声音。 再次使用AutoGen,让扮演《傲慢与偏见》中达西和伊丽莎白角色的gpt-4和glm-4-9b模型进行对话,并用ChatTTS将对话实时转换为有声对白。展示AI创作有声读物的应用潜力。 时间戳 00:00:00 欢迎来到AI超元域 00:00:22 glm-4-9b模型介绍 00:01:00 使用vLLM部署glm-4-9b-chat 00:02:47 在Colab测试API调用GLM模型 00:04:19 用AutoGen让GLM写高考作文,gpt-4评分 00:06:43 GLM写作文过程与gpt-4评估结果 00:06:52 在本地部署ChatTTS语音模型 00:07:53 使用ChatTTS生成音频样例 00:08:19 ChatTTS终端使用方法讲解 00:08:54 使用AutoGen让gpt-4和glm-4-9b对话并生成语音 00:10:09 AI生成的达西和伊丽莎白对话语音示例 00:10:42 AI创作有声读物的应用展望 00:10:56 视频总结和预告
打开封面
下载高清视频
观看高清视频
视频下载器
4090逆天的ai画图速度
Windows下中文微调Llama3,单卡8G显存只需5分钟,可接入GPT4All、Ollama实现CPU推理聊天,附一键训练脚本。
【ChatGLM】本地版ChatGPT?6G显存可用!ChatGLM-6B 清华开源模型一键包发布 可更新
ChatGLM+Langchain构建本地知识库,只需6G显存,支持实时上传文档
用AI控制AI给你打工!AI agent自动发布小红书运营自媒体,Autogen Studio演示+教学
AnimationGPT:文生游戏人物动画!AI模型已上线开源(双语字幕)
不要浪费钱买课了,喂饭式教你训练大模型llama3
本地语言模型个人推荐
虎扑评分之LLM大模型语言模型
突破开源天花板!ChatTTS:对话式高可控的语音合成模型
【Github爆火】92.1k star!太强了!GitHub登顶项目之中文排行榜!开源资料!天花板级别!
家庭PC本地部署LLama3 70B模型测试,对比70B和8B模型的效果,看看人工智障距离人工智能还有多远
部署本地大模型和知识库,最简单的方法
GLM-4开源版本终于来了!!超越Llama3,多模态比肩GPT4V,MaaS平台也大升级
Qwen2很好,但我选GLM4
从0.5B到340B的LLM都需要多少显存?
1700多种开源大模型随意部署!一键本地搭建大模型+知识库,不挑环境、不挑配置
Llama3本地部署与中文能力微调实战,带你从零部署Llama3大模型,究极通俗易懂!(大模型微调\大模型部署)
本地生成任意不可描述声音(NSFW)和音乐,最长支持8分钟,stable-audio-tools整合包,ASMR助眠,文字生成声音和音乐
步非烟ai声音模型,效果炸裂,音声界要失业了
qwen大模型地部署和微调法律大模型(只需5G内存)
双4090部署qwen72b大模型 每秒150tokens
Qwen2大模型保姆级部署教程,快速上手最强国产大模型
将本地知识库和AI大模型,接入微信,实现微信内的AI智能客服,使用更方便,体验更好
Llama3-70b 大模型用vllm去启动的细微注意事项
如何训练一个写小说的大模型?
全能战士GLM-4!联网、绘画、编程样样行,大脑(GLM)、手脚(Tools)一应全~
来感受一下 ChatTTS 这个语音合成(TTS)模型
大模型部署之vllm部署加速
颠覆传统编程,超越Cursor!Claude Dev最强编程AI智能体!支持ollama和GitHub models!一条prompt实现全自动游戏开发!
爱鼓捣AI排行榜2:Qwen2, GLM-4谁更能打?
大家再感受一下,ChatTTS 是可以固定音色的。这里还有 pip 一键安装和 Docker 部署方案。
Chat-TTS 多人有感情的朗读小说,喜马拉雅终将死于AI
AI时代新爬虫:网站自动转LLM数据,firecrawl深度玩法解读
本地部署全自动写论文的AI智能体!全球首个AI科学家-AI Scientist诞生!告别科研压力AI Scientist全自动完成从创意到论文撰写,让科研更轻松
vLLm: 大模型LLM快速推理的神器, llama2秒级完成推理不用再等待
千问Qwen2 7B模型8g显存运行效果,23Token/s
本地运行通义千问72B!兼容AMD显卡或纯CPU【LM Studio】
【ChatGLM3】最强的离线开源版ChatGPT,一键部署,解压即用
都发布一个月了【还不会微调Llama3吗】!迪哥十分钟带你微调-量化-部署-应用一条龙解读!草履虫都能学会!!!