V
主页
京东 11.11 红包
“端侧大模型”浪潮袭来,手机开启新一代物种进化
发布人
AI大模型正在从云端向智能终端狂奔。 在刚刚过去的一段时间里,手机厂商正在掀起一波大模型的浪潮。苹果、谷歌、华为、小米、OPPO、vivo、荣耀等几乎所有头部厂商都先后宣布将落地大模型的消息。突然之间,大模型仿佛成为智慧硬件厂商新的兵家必争之地。 从芯片厂商到终端厂商,都将目光聚焦到了LLM的端侧部署,这其中的逻辑是什么呢? 之所以提出端侧大模型的概念,是因为网络侧大模型存在局限性。目前,人们使用ChatGPT、Midjourney等AI应用提供的服务,基本都是通过云端服务器来完成。以ChatGPT为例,它背后的大模型和计算资源都存储在远程服务器上,用户通过与服务器实时交互,被输入的文本经服务器处理后,获得返回响应。这样的好处在于,可以确保模型的高效稳定运行,因为服务器通常配置了强大的计算资源,而且可以随时扩展以适应高负载。 而与单纯在云端部署生成式 AI 应用和服务相比,手机终端侧部署生成式 AI 在节约服务器成本、保护用户信息安全、提升实时性和实现个性化用户体验等方面带来了更加广阔的应用前景。 如果LLM能够在手机端部署,自然也能在其他终端上部署。这意味着,在手机之外,包括笔记本电脑、智能家居、VR/AR设备、汽车和其他物联网终端,未来都会搭载能够支持LLM的芯片,AIoT将会迎来AIoT大换血,可以想象这是一个多大量级的市场。
打开封面
下载高清视频
观看高清视频
视频下载器
深度了解:什么是大语言模型 (LLMs)以及你如何使用它?
Orange Pi 5,简直是一台游戏野兽!
动手能力超强:使用Orange Pi 3G-IOT开发板DIY智能手机
香橙派10佳开源项目
高通芯片又出事了,大量手机汽车厂商存在安全风险
利用GPU加速在Orange Pi 5上跑LLMs:人工智能爱好者High翻了!
最强国产替代:Orange Pi 3B,结构、尺寸上兼容树莓派
RK3588+超强扩展,649元的开发板Orange Pi 5 Plus:就问还有谁?!
迅龙软件企业宣传片:AI赋能,让生活更智能
【防割指南】双11买前必看!2024全价位手机推荐,性价比满满,建议收藏!
手写体识别模型训练与推理
【极客湾云飞】为何手机芯片每次都有大幅提升,我们却感知不大?
如何用开发板DIY一款支持ChatGPT的智能手表?
Orange Pi OS: Windows的风格,流畅运行海量安卓应用
OrangePi 5Max:极小却强悍无比的RK3588开发板
【LLM大模型+RAG】2024大模型RAG企业项目实战:从零开始搭建一套完整的RAG系统,理论+原理+代码深入解析!(附课件教程)
实测华为手机nova12 ,麒麟芯片确实比高通的好很多。
Orange Pi OS尝“鲜”体验:高颜值,真香!
【玩转OrangePi AIpro】深度解读:什么是 TOPS,为什么它对 AI PC很重要?
【车载必备】BDC-U 蓝牙/USB解码器,高通QCC5171蓝牙5.3芯片,手机USB输入,汽车电池供电,带ACC控制,音质提升就这么简单!
基于OrangePi AIpro开发一个电子纸屏时钟
开发板和单片机的区别是什么?
海思麒麟归位全球智能手机处理器排行榜,能否再超苹果芯片,重振国产芯片雄风?
DIY:如何将OrangePi 5Plus变成一台超棒的一体化台式游戏机?
【玩转OrangePi AIpro】NPU在各行各业的应用
【香橙派全球开发者大会】OrangePi AIpro 20T:为AI而生
让你久等了,OrangePi 5 Pro正式开售!
Orange Pi 5B:升级Wi-Fi6 + BT5.0,板载 eMMC存储,支持8K视频
OpenAI公开新项目“草莓”!人工智能的黑匣子将要被打开?(内含GPT 4o实测)
一加12刷国际版氧系统无广告谷歌全家桶
iPhone 16 Pro Max 一个月心得
Nova13继续使用麒麟8000,华为这次可能真的不行了
OrangePi 5 Pro开箱
香橙派联合华为的又一力作OrangePi Kunpeng Pro来啦,起售价1076元
开源鸿蒙PC端来了:Orange Pi OS(OH)发布,基本办公、娱乐搞定
【昇腾AI开发者创享日】说到开发板,首推香橙派
RK3588比RK3399强在哪里?如何选择?
最新版华为鸿蒙手机安装谷歌商店完美安装流程,一次解决后顾之忧。华为p70与mate70及其mateXT的鸿蒙4.2系统适配也可以升级next系统
香橙派亮相昇腾AI开发者创享日,打造“AI+鸿蒙”高算力开发板
vivo x200 pro在京东自营首批购买用户翻车差评,评论区现状