BitNet开源：1.58比特让大模型轻如燕，CPU就能跑100B参数
发布人
打开封面 下载高清视频 观看高清视频 视频下载器
...
bitnet.cpp 推理，速度超越 llama.cpp，内存最高降低 16 倍 | 附 BitNet b1.58 模型安装演示
...
【喂饭教程】20分钟学会微调大模型Qwen2，环境配置+模型微调+模型部署+效果展示详细教程！草履虫都能学会~
...
全新的 Windows 12.1 Pro 震撼登场！！
...
小模型的时代终于来了，1.5B参数量模型也能轻松构建GraphRAG
...
神操作！闲置手机电脑变身“超级计算机”，在家运行70B大模型！
...
帝姬回想起被电击的恐怖～
...
【代码大模型】三步实现本地搭建离线智能编程助手~CodeGeeX4-ALL-9B
...
【软件】follow，新一代信息聚合神器，入门教程及使用体验
...
本地部署Molmo-7B多模态大模型媲美Llama3.2-90B！全方位测评：图像识别、视频分析，打造多模态视觉AI助手！轻松实现监控视频快速找人
...
CPU逆袭AI领域？ bitnet.cpp颠覆GPU霸权？！
...
普通PC也可以本地运行AI大模型！无需显卡！
...
核能挑战：8GB显存本地跑Llama 405B
...
BitNet 微软的1比特LLM官方推理框架，只用i7跑100B模型
...
本地运行通义千问72B！兼容AMD显卡或纯CPU【LM Studio】
...
CPU反超NPU，llama.cpp生成速度翻5倍！ LLM端侧部署新范式T-MAC开源
...
【大模型】几小时完全从头训练一个仅有26M的小参数GPT，仅需入门显卡即可推理/训练！
...
从0.5B到340B的LLM都需要多少显存？
...
视频界的Flux新星诞生！Mochi.1 10B开源模型发布，参数量，画面一致性，运动效果吊打所有闭源模型！免费在线使用已发布，大家快来玩！-T8 Ai工具分享
...
AlphaChip：恐怖的ai自我进化要开始了
...
为什么平衡三进制没被现代计算机采用？｜有关平衡三进制的基本介绍
...
普通CPU也能跑千亿参数大模型？微软重磅开源大模型推理框架！
...
4张定制版22G 2080TI 自建AI服务器全过程记录 | 这个坑我先替你踩！| 哪天翻车我再发视频告诉大家！
...
ollama vs vllm - 开启并发之后的 ollama 和 vllm 相比怎么样？
...
认识ARIA：即将让GPT-4显得过时的新开源AI
...
炸裂！💥最强开源模型新王通义千问2.5 72B被我用4GB老显卡本地跑通了！
...
微软发布2.7B小模型，碾压谷歌Gemini！性能直接打平比自己大25倍的大模型？
...
中国开源1bit大模型量化算法BiLLM来啦 #小工蚁
...
苏联的三进制电脑，为什么被二进制干掉了？核心在于思路走窄了
...
惊艳！1.5B小模型也能玩转代码解释，Qwen Code Interpreter测试及本地部署7B模型
...
【博士Vlog】大语言模型只需要1.58bit？人人都能训练大模型了！极限模型压缩效果反而更好？怎么做到的？
...
微软把LLM里矩阵参数全改为-1、0、1。解决了一大难题
...
170元组装一台MC服务器！稳定运行，小噪音，多核心，大内存～
...
玩了半天游戏才发现是AI生成的
...
Google再放王炸，无限注意力模型实现了114倍的内存压缩比！
...
微软 BitNet：CPU 加速运行 LLM 的新突破
...
【13B大模型无用】大家不需要用自己的8G显存跑大模型了，没意义，70B也许成，我试试
...
「Github一周热点46期」大模型OCR、IPTV直播源、工作流程自动化、下一代信息浏览器和下载金融数据工具
...
一种交互式帧插值方法：Framer，项目即将开源
...
比PyTorch快40倍！自制可视化机器学习引擎 C++/汇编底层重写、蓝图、卷积优化、CUDA加速【VeritNet开发进度】【附测试数据代码】
...
ESP-AI 新版发布，让我们一起拥抱万物有灵的时代吧！