V
主页
存储遇到大模型会有什么新架构和技术点? #大模型 #AI系统 #数据存储 #AI集群
发布人
【大模型系列】之AI集群(存储):存储遇到大模型会有什么新架构和技术点?#大模型 #AI系统 #数据存储 #AI集群 想要占领大模型应用的高地,数据和算力可以说是不可或缺的基石。和算力相关的讨论已经有很多,以至于英伟达的市值在2023年翻了两番。同样不应小觑的还有数据,除了数据量的爆炸性增长,数据的读取、写入、传输等基础性能,开始遇到越来越多的新挑战。存储遇到大模型会产生什么新的增长点呢?
打开封面
下载高清视频
观看高清视频
视频下载器
数据存储集群连接方式(DAS/SAN/NAS) #大模型 #AI系统 #数据存储 #AI集群
数据的存储类型和方式(块存储/文件存储/对象存储) #大模型 #AI系统 #数据存储 #AI集群
大模型AI集群如何组成?AI集群需要哪些硬件? #大模型 #AI系统
数据存储硬件组成(RAM/Flash/Cache/HBM/SSD) #大模型 #AI系统 #数据存储 #AI集群
大模型AI集群训练时间 & 训练效率如何计算? #大模型 #AI系统
AI编译器后端优化来啦!AI编译器后端架构!【AI编译器】后端优化01篇
大模型 Checkpoint 优化手段! #大模型 #AI系统 #数据存储 #AI集群
存储遇到大模型会有哪些挑战?#大模型 #AI系统 #数据存储 #AI集群
AI芯片除硬件本身外,还要关注什么?【AI芯片】黄金十年
AI集群超级互联Google TPUv4 光交换机 #AI芯片 #TPU系列 #AI集群
存算架构的思考 #大模型 #AI系统 #数据存储 #AI集群
大模型训练的存储优化方案(下) #大模型 #AI系统 #数据存储 #AI集群
从CPU发展和组成看并行架构!【AI芯片】芯片基础01
特斯拉Tesla DOJO芯片架构【AI芯片】NPU详解01
大模型训练需要多少GPU?大模型显存怎么算? #大模型 #AI系统
谷歌周彦祺: 大语言模型扩展——从幂律到稀疏性(GPT大模型训练方法系列【二】)
模型压缩架构和流程介绍!量化/剪枝/蒸馏/二值化4件套!【推理系统】模型压缩第01篇
壁仞BR100是全球最强算力?反正我不信【AI芯片】国产厂商
CUDA、SIMD、SIMT、DSA什么关系?好乱呀!#GPU #CUDA #英伟达 #SIMT
为什么大模型都用Transformer结构? #AIInfra #大模型 #Transformer
大模型在AI集群分布式架构:参数服务器 or 集合通信架构? #大模型 #AI系统
大模型之数据工程概述 #大模型 #数据工程 #AIInfra
AI芯片涉及哪些知识?【AI芯片】内容简介
深入GPU原理:线程和缓存关系【AI芯片】GPU原理01
向量数据库介绍,Vector和Embedding关系 #大模型 #向量数据库
什么是推理系统?推理有哪些应用?【推理系统】系列01篇
大模型遇到Agent智能体:简介 #大模型 #AI系统 #智能体
分布式并行策略基础介绍!【分布式并行】系列第01篇
NVIDIA英伟达Tensor Core基本原理(上)【AI芯片】GPU架构04
Kernel优化架构介绍!【推理引擎】Kernel优化第01篇
AI Agent智能体具体组成 #大模型 #AI系统 #智能体
大模型训练的存储优化方案(上) #大模型 #AI系统 #数据存储 #AI集群
AI Agent智能体应用原理剖析:AutoGPT、HuggingFPT等 #大模型 #AI系统 #智能体
大模型整体架构、大模型全流程介绍 #大模型 #AI系统
PyTorch 2.0新特性开撸!图模式打开了潘多拉!【AI编译器之PyTorch】系列01篇
大模型推理需要多大的显存? #大模型 #AI系统 #推理 #显存
分布式训练、分布式集群的基础介绍!【分布式集群】第01篇
想了解自动微分吗?自动微分内容介绍!【自动微分】系列第一篇!
大模型为什么需要微调?有哪些微调方式?#大模型 #微调
ChatGPT狂飙:GPT家族详解!【ChatGPT原理】第01篇