内存墙 - 电子工程专辑

内存墙

使用CXL打破内存墙!

点击蓝字关注我们数据处理的增加、虚拟化的广泛使用以及内存中计算的增加，使得服务器对CPU附加内存的需求呈指数级增长。人工智能、机器学习、大数据和分析等现代工作负载加剧了数据中心管理人员面临的内存挑战。训练大型语言模型（LLM），如GPT-4、Llama 2和PaLM 2需要大的内存容量和计算能力。随着处理器核数的不断增加，实现更快、更复杂的计算，就需要更多的内存。CXL内存可以提供所需的扩展内存容

SSDFans 2024-11-25 36浏览
CXL：破解AI时代“内存墙”新途径

AI大模型的快速发展推动“算力”和“存力”需求快速增长，“内存墙”问题由来已久，在 AI 时代表现的愈发明显，“算力”和“运力”之间的差距越来越大。Transformer 类的模型参数的数量呈现指数增长，每两年增加 410 倍，而 GPU 内存仅以每两年 2 倍的速度扩展。下载链接：CXL高速互联：破解AI时代“内存墙”新途径《人工智能AI行业报告合集》1、人工智能的法律探究2、2024年人工智能

智能计算芯世界 2024-05-16 1290浏览
HBM研究框架：突破“内存墙”，封装新突破

本文来自“走进芯时代（76）：HBM迭代，3D混合键合成设备材料发力点”。HBM突破“内存墙”,实现高带宽高容量，成为Al芯片最强辅助，我们认为HBM将持续迭代，1/0口数量以及单1/0口速率将逐渐提升，HBM3以及HBM3e逐渐成为Al服务器主流配置，且产品周期相对较长，单颗容量及配置颗数逐步增加，预计HBM4于2026年发布。2024年全球HBM市场有望超百亿美元，市场空间足，国产供应链加速

智能计算芯世界 2024-03-07 1789浏览
从存储器原理看cpu内存墙的本质

冯诺伊曼结构是个 cpu 和主存储器的通信结构，一个通信过程时延可分为处理时延，传播时延，排队时延，三者共同构筑了内存墙。其中处理时延最核心也最无解，先看它。看个作为标准存储单元的双稳态触发器(至少教科书上就这样教的)：电路简单且高效，一次可直接读写 0 或 1。把这电路铺开，就能存储 8bit，32bit，1kbyte，1M，10M，100M...它可以存储任意大小的数据。但世界不是线性堆砌的，

Linux阅码场 2023-12-04 1090浏览
芯片封装：向上翻越内存墙，向下发展基础层

本文来自“2023新型算力中心调研报告（2023）”。更多内容参考“《海光CPU+DCU技术研究报告合集（上）》 ”，“《海光CPU+DCU技术研究报告合集（下）》 ”和“龙芯CPU技术研究报告合集”。积极引入新制程生产 CCD 的 AMD 对 SRAM 成本的感受显然比较深刻，在基于台积电 5nm 制程的 Zen 4 架构 CCD 中，L2、L3 Cache 占用的面积已经达到整体的约一半比例

智能计算芯世界 2023-10-27 1016浏览
三星半导体创新技术解决方案能有效突破内存墙限制

美通社消息，8月10日，三星半导体在第五届OCP China Day 2023（开放计算中国技术峰会）上分享了两大应对内存墙限制的创新技术解决方案和开放协作的业务战略。三星电子副总裁，半导体事业软件开发团队负责人张实完（Silwan Chang）表示：“当前内存技术的发展正面临内存墙限制的挑战。我们的首要解决方案是引入主动存储（Active Memory）建立全新内存层次结构，其次是发展以数据为中

全球TMT 2023-08-14 948浏览
大算力场景“内存墙”、“功耗墙”等问题及解决途径

目前 AI 大模型的算力水平显著供不应求。以 Open AI 的算力基础设施为例，芯片层面 GPGPU 的需求最为直接受益，其次是 CPU、AI 推理芯片、FPGA 等。AI 服务器市场的扩容，同步带动高速网卡、HBM、DRAM、NAND、PCB 等需求提升。同时，围绕解决大算力场景下 GPU“功耗墙、内存墙”问题的相关技术不断升级，如存算一体、硅光/CPO 产业化进程有望提速。下载链接：AI算

智能计算芯世界 2023-04-30 2762浏览
破解内存墙，除了“存算一体”还需要什么？

本文来源：与非网导览：冯·诺依曼结构的诞生与局限内存墙，绕开还是撞穿？存算一体离不开新式存储方式20世纪初的物理学家不会想到，悬浮在物理学大厦上的两朵乌云会彻底颠覆整个物理学体系，冯·诺依曼在参与曼哈顿工程提出新架构时，也不会想到未来阻止芯片算力进步的竟然不是芯片本身。冯·诺依曼结构的诞生与局限1945年6月30日，美国正在秘密进行曼哈顿计划。冯·诺依曼作为该计划的重要参与者与领导者，与另外两位

物联传媒 2023-01-09 992浏览
三大处理器巨头迎战“内存墙”

点击蓝字关注我们在最近推出的96 核 Epyc Genoa CPU 的发布会期间，AMD 谈到了现代计算面临的最大挑战之一。在过去的几年里，处理器变得更强大的速度已经超过了为这些内核提供数据的内存子系统的速度。“任何使用非常大内存占用的东西都需要大量带宽来驱动内核，”Gartner分析师蒂姆哈维告诉The Register。“如果你随机访问这些数据，那么你会丢失很多缓存，因此能够非常快速地提取

皇华电子元器件IC供应商 2022-11-15 903浏览

正在努力加载更多...

广告

今日新闻

热门文章排行

1 各大车企付款周期汇总

一览众车  1769
2 突发！美国再次出手！对中国140家芯片公司重大打击！

集成电路IC  1697
3 美国欲限制140家中国芯片公司，包含多家设备巨头

半导体工艺与设备  1248
4 【完整名单列表】美国再将140家中国半导体企业列入实体名单！

EETOP  737
5 突发！美将140家中国半导体企业列入实体名单，附完整名单及政策细节！

大鱼机器人  549
6 日本一水坝现巨型哥斯拉壁画：预计明年1月底将消失

快科技  472
7 华为Mate70搭载的麒麟9020芯片有多强悍？！

凡亿PCB  464
8 新一代麒麟到底啥水平！华为Mate70系列麒麟9020处理器跑分揭秘

快科技  424
9 中国芯片新锐50强

贞光科技  418
10 比亚迪智驾团队重大人事变动！

谈思汽车  404
11 最新禁令来了！140多家中国芯片公司被限制

谈思实验室  325
12 马斯克遭遇重击：加州狙击特斯拉致其股价暴跌

国纳科技匠  307
13 华为、联想、美的、小米、海尔、格力等中国35家电子家电公司2024年第三季度财报汇总

全球TMT  304
14 传小米2025年正式发布自研3nmSoC芯片

皇华电子元器件IC供应商  292
15 美国HBM禁令，将于12月6日发布

芯极速  265
16 不到5%！国产存储芯片急需突破！全球存储芯片市场“冰火两重天”？

飙叔科技洞察  263
17 牙膏挤爆！iPhone17八大升级，苹果史无前例的巨变

手机技术资讯  250
18 华为Mate70Pro“纯血鸿蒙版”来了！无法兼容安卓！

飙叔科技洞察  239
19 传小米明年正式发布自研3nmSoC芯片

ittbank  235
20 全球首个可量产UWB雷达泊车方案亮相，这家企业率先抢占新风口

高工智能汽车  217
21 牙膏挤爆！iPhone17八大升级，苹果史无前例的巨变

快科技  216
22 彻底疯了！CES不给中国人发签证

集成电路IC  193
23 2024年11月新能源汽车销量排名

一览众车  185
24 索赔800万，字节起诉模型“投毒”实习生～网友：800万只是电费！！！

C语言与CPP编程  184
25 华为手机前三季度出货量接近去年全年，Mate70系列成新增长点

52RD  181
26 HBM禁令深度思考

集成电路IC  176
27 商汤绝影最新智驾「大杀器」：1块GPU顶500台量产车，而且有5.4万块

智能车参考  172
28 美国又拉黑140家中国芯片企业，包括北方华创、拓荆、昇维旭…

芯通社  170
29 光谱分析进入手机，摄像头产业链增添新活力

MEMS  169
30 【读财报】禾赛全年盈利指引：股价暴涨80%、市值重回10亿美元

车智  167

广告

最新评论更多>>

确实是非常有价值的工具，京东买一个电源适配器用这玩意儿测电压然后发现电压不足有质量问题，然后赔钱给我，多买几个可以发财了哈。

james1982... 评论文章 2024-12-03

万用表使用大全（20条测量方法，建议收藏！）
zanzanzan

洪正安评论文章 2024-11-29

Allegro17.4常用系统参数的设置

资料

文库

帖子

博文

在线研讨会

EE直播间

无线前沿新技术与测试技术峰会-线上直播直播时间：12月05日 09:30
首场直播发布： Keysight AP5000 系列新型高性价比模拟信号源直播时间：12月06日 10:00
功率表的基础知识及其校准直播时间：12月10日 10:00
提升毫米波信号测试精度直播时间：12月18日 14:00

E聘热招职位