V
主页
京东 11.11 红包
目前地表最强AI芯片👍
发布人
Chips and Cheese 详细测试了AMD MI300X GPU,并在高速缓存、延迟、推理等方面对比后发现,性能远超英伟达的 H100。 MI300X 简介:AMD Instinct MI300X 人工智能加速器基于 CDNA 3 架构打造,采用混合的 5nm 和 6nm 制程工艺,最多拥有 1530 亿晶体管。 存储方面也获得了巨大提升,MI300X 的 HBM3 容量比上一代的 MI250X (128 GB) 高出 50%。 与英伟达 H100 相比,MI300X 拥有以下优势: 内存容量高出 2.4 倍,内存带宽高出 1.6 倍, FP8 性能 (TFLOPS) 高出 1.3 倍,FP16 性能 (TFLOPS) 高出 1.3 倍, 在 1v1 对比测试中,性能方面可领先 H100 (Llama 2 70B) 最多 20%; 在 1v1 对比测试中,性能方面可领先 H100 (FlashAttention 2) 最多 20%; 在 8v8 服务器对比测试中,性能方面可领先 H100 (Llama 2 70B) 最多 40%; 在 8v8 服务器对比测试中,性能方面可领先 H100 (Bloom 176B) 最多 60%; 高速缓存 AMD MI300X 配备了 32KB L1 缓存、16KB 标量缓存、4MB L2 缓存和一个巨大的 256MB Infinity Cache(作为 L3 缓存)。 hips and Cheese 的缓存基准测试表明,在所有相关缓存级别中,MI300X 的缓存带宽都大大优于 Nvidia 的 H100。 一级缓存性能显示 MI300X 的带宽是 H100 的 1.6 倍,二级缓存的带宽是 H100 的 3.49 倍,MI300X 的最后一级缓存(即无限缓存)的带宽是 H100 的 3.12 倍。 显存带宽 AMD GPU 的本地 HBM3 内存是 H100 PCIe 的 2.72 倍,VRAM 带宽是 H100 PCIe 的 2.66 倍。 在内存测试中,AMD GPU 唯一失利的地方是内存延迟结果,H100 比 AMD GPU 快 57%。 请注意,这是最低规格的 H100 PCIe 显卡,拥有 80GB HBM2E。后续版本(如 H200)包含高达 141GB 的 HBM3E,带宽最高可达 4.8 TB / s。 Raw 吞吐量 Chips and Cheese 的指令吞吐量结果考虑了 INT32、FP32、FP16 和 INT8 计算。 AMD 芯片的指令吞吐量高得离谱。有时,MI300X 比 H100 快 5 倍,最差时也快 40%。
打开封面
下载高清视频
观看高清视频
视频下载器
英伟达芯片存在设计缺陷,台积电出手力挽狂澜
机器人第一龙头 斩获华为巨量订单 有望冲30连板
麒麟9100其实比麒麟9000S快两代,这背后意味着华为真正找到了自己的路
把一片CPU芯片放大30万倍后的震撼效果😎
10月24日 午评 反弹结束 开始C浪下杀 回补3087缺口?
AlphaChip:恐怖的ai自我进化要开始了
分享一组难得一见的迈络思芯片
apple ai离咱们村还有多久?
华为麒麟9100的性能很强,跟天玑骁龙不同我们走了另一条路
【AI绘画模型】全网超强的5个SD涩涩大模型推荐(附SD模型下载)手摸着手教你用AI自由画涩图,小白也照样能搞定!
美国以学术交流为借口,诱捕我国芯片专家,扣押八年至今未回国
谁信我用AI写小说赚了几万
一台价值一辆劳斯莱斯的服务器
ASML首席执行官谈AI,中国,芯片以及美国限制| 彭博科技论坛·完整版
电路板是如何制作出来的,我们一起学习一下吧
交割日明天来袭!我却说本周还要大涨!深交所突然全网测试 什么信号?
人类寿命即将翻倍?!【诺贝尔奖2024】
CPU的生产过程,真的很牛👍
2024骁龙峰会 | Oryon CPU Ready !
【AI变声器】雏草机变声器 更有全音域爱丽丝模型 永久免费
胖猫VS奶龙
沉浸式体验NVIDIA GB200服务器 组装和使用场景
重磅!AI自己可以用电脑了!Claude3.5炸裂更新,以后ai替我上班不是梦~
中国手机芯片的破局,怎么能只依靠华为呢?
美国竭尽全力阻止的东西,中东直接送到我们面前,华盛顿白费劲了
每天解读一家上市公司:士兰微
华为NOVA13Pro配置确定(麒麟8000)
CPU和GPU的区别有哪些,GPU又是如何工作的呢?让我们跟随视频一起探索吧
一台价值一辆帕萨特的GPU八卡服务器是如何组装起来的?
真的爽!ai一键生成几十万字的小说,直接拿到小说平台达成变现,又带大家搞米啦!
给芯片脱衣服之TF卡 #激光 #科普 #芯片
雷军为什么选择造车而不是进军AI?
中美芯片之战,中国的打法,吓坏了美国人(音频来源:静思有我)
AI大模型课程2024年最新版,阿里大佬手把手带你学,零基础入门必看的保姆级教程,通俗易懂,内附项目实战
中国“龙芯之母”黄令仪逝世,享年86岁。黄老80多岁时仍奋战在科研一线,打破西方技术封锁研究“中国芯”
Adobe 2024 一年一度黑科技大会来袭!
天玑9400都成外星科技了,为什么还有人等骁龙8至尊版
全球最大研发中心启用!华为这次想干嘛?
起步都得涨500,骁龙8至尊版的旗舰机价格起飞!