库瀚eSPU可满足云计算、边缘计算数据中⼼对IT基础设施高带宽、低延时、高能效比的技术需求,针对I/O密集型场景(存储、网络、人工智能等),大幅降低数字经济IT基础设施的投资、运维及能耗成本,以满足数字经济及碳中和国家战略技术需求。

摩尔定律原来的解读是“芯片性能每18个月翻一倍”,后来由于工艺微缩遇到瓶颈,改变成“24个月翻一倍”。同时,内存墙、IO墙、功耗墙等系一系列短期内无法彻底解决的问题,让数据中心从一切以CPU为核心,逐步走向DSA异构化,DSA的黄金时代被开启。

微服务和云原生,带来了Serverless;高性能 、低CPU开销网络 ,带来了Diskless;SoC 片内总线和 DC 网络融合 ,让MemLess 成为可能(如 CXL Fabric ),Datacenter as a Computer 更近一步……纵观英伟达产品的路标,从DGX-1、DGX-Z的演进路线图发现,很多时候是在通过堆GPU的方式扩展HBM。而HBM是通过高级封装的方式达到大带宽,这意味着我们现在买了很多英伟达的GPU,实际上是买了HBM,因此MemLess是下一个重点方向。

“我今年参加了三次RISC-V相关的峰会,发现目前很多从业者对于RISC-V的印象还是停留在MCU或是偏终端的产品领域。”在8月28日举办的第三届滴水湖中国RISC-V产业论坛上,苏州库瀚信息科技有限公司系统工程副总裁刘亚南 重点谈了目前整个数据中心领域的需求、趋势及其中RISC-V架构的现状。

苏州库瀚信息科技有限公司系统工程副总裁 刘亚南

如今,在摩尔定律濒临消亡之际,以生成式人工智能(AIGC)为代表的新型数字经济,正点燃数据中心新一轮军备竞赛。刘亚南认为,RISC-V相关技术目前在应用生态及算力层面仍在成长阶段。“随着AI大模型等技术的快速发展,数字经济涌现新场景,对底层软硬件系统提出新要求,RISC-V开源指令集具备低碳低功耗、模块化、精简开放等优势,应用生态较为简单、算力要求相对低的数据中心I/O场景将会是RISC-V大芯片的首个爆发式应用。”

据介绍,库瀚基于 RISC-V指令集自研基础设施服务芯⽚库瀚eSPU,实现存算⽹I/O聚合设计,在单颗芯片中实现PCIe Switch、智能网卡以及CPU的I/O互联能力,精简存储、⽹络数据I/O通路,优化现有以通⽤CPU为核心的专用服务器架构中不必要的软硬件系统算力冗余及⾼昂的基础设施投资、运维、能耗成本(如存储服务器、AI服务器)。

在系统架构上,库瀚采用三种不同的RISC-V架构。控制面采用一些Hybrid的大核和中核,来运行一些FDX(软件定义存储)软件栈,利用混合的高性能RISC-V做软件处理。数据面 (Data Plane)的前端网络会利用400G的总带宽,做一些Packet Buffer和Protocol Engine处理。

在SDS存储服务器形态上,一颗eSPU 芯片就能替代CPU(x86 / ARM ARM)、PCIe Switch 、RDMA 网卡,网络与存储数据面直通,大幅度降低TCO 、提升能效比。如下框图,左边是传统的SDS存储服务器的典型配置,中间是x86或ARM CPU。而eSPU的存储服务器(下图右)直接通过光模块输入后,通过处理直接连到存储后端。

在Diskless解决方案上,库瀚方案可以无缝对接开源框架(DPDK)和分布式存储生态(DAOS / Ceph / 伙伴SDS),实现迁移最小化、效益最大化。

下图左边展示了其方案优势、生态融合的特点,右边则是大致的集群拓扑。通过数据中心的以太网交换机,连到下面的存储集群,存储集群二次拉远,形成eSPU存储节点。

无状态x86节点,负责存储协议解析、数据服务、空间和Cache管理等。eSPU存储节点,则承载全局FTL、硬件EC、数据缩减等数据面功能。

eSPU方案的第三部分就是AI Hub。与Diskless类似,eSPU AI服务器形态,用一颗eSPU芯片替代PCle Switch、高性能网卡,大幅度降低国产AI服务器的IO成本(网络和存储)。

eSPU AI服务器对比传统AI服务器的竞争优势

PCIe Switch和RDMA高性能网络,通过eSPU片上Non Blocking网络,实现Data Plane数据直通,避免CPU参与的DMA两次搬运,提升有效数据带宽和能效比。

据介绍,库瀚eSPU可以以100W功耗实现1000万IOPS读写性能、400Gbps RDMA网络带宽,面向I/O互联场景下对性能、功耗有极致追求的智算中⼼、云数据中⼼及企业专业⽤户。

同时刘亚南表示,基于软硬件融合技术储备及设计能⼒,库瀚支持与客户开展⾼度灵活的AI系统、存储系统、⽹络系统前沿技术联合开发与定制,以⾼能效存力、运力解决⽅案帮助客户成功。

公司介绍

库瀚科技由高层次海归人才/前海力士美国存储解决方案CTO兼高级副总裁杨国华博士携工业界精英团队联合创办,公司从事高能效数据I/O管理/存储/网络基础设施芯片设计及解决方案产业化,扎根中国本土,技术创业团队专业范畴覆盖存储/网络I/O核心芯片及固软件架构设计领域,优势领域包括分布式存储、数据库、AI训练数据I/O管理,致力于打造全RISC-V架构的低碳高性能数据中心IT基础设施生态。

责编:Luffy
本文为EET电子工程专辑原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
阅读全文,请先
您可能感兴趣
近年来,AWS还积极投资于人工智能(AI)、机器学习(ML)、大数据分析和边缘计算等前沿技术,以保持其在这些领域的竞争优势。
谷歌认为,这种独家协议可能会限制市场竞争,导致其他公司无法自由地使用OpenAI的技术,从而增加了用户面临额外成本的风险,比如数据迁移和员工培训等。
据悉,此次交易是通过马斯克亲自与英伟达CEO黄仁勋进行沟通促成的。这批GB200 AI芯片将被用于强化其旗舰级超级计算集群——Colossus(巨人)。Colossus作为xAI的技术基石,将借此机会实现计算能力的飞跃。
短期全球芯片市场数据的上调反映了 2024 年第 2 季度和第 3 季度业绩的改善,尤其是在计算领域,受AI 芯片支持的需求推动。
常情况下,英特尔的CEO在65岁时退休,而现年63岁的基辛格突然被退休,让市场感到意外。为了确保平稳过渡,英特尔董事会立即着手寻找新的CEO人选……
自1984年,意法半导体首次进入中国,成为首批在中国开展业务的半导体公司。意法半导体CEO Jean-Marc Chery日前表示,中国市场是不可或缺的,是电动汽车规模最大、最具创新性的市场,与中国本地的制造工厂达成合作,具有至关重要的作用。他还表示,意法半导体正在采用在中国市场学到的最佳实践和技术,并将其应用于西方市场,“传教士的故事结束了”。
目前,智能终端NFC功能的使用频率越来越高,面对新场景新需求,ITMA多家成员单位一起联合推动iTAP(智能无感接近式协议)标准化项目,预计25年上半年发布1.0标准,通过功能测试、兼容性测试,确保新技术产业应用。
中科院微电子所集成电路制造技术重点实验室刘明院士团队提出了一种基于记忆交叉阵列的符号知识表示解决方案,首次实验演示并验证了忆阻神经-模糊硬件系统在无监督、有监督和迁移学习任务中的应用……
C&K Switches EITS系列直角照明轻触开关提供表面贴装 PIP 端子和标准通孔配置,为电信、数据中心和专业音频/视频设备等广泛应用提供创新的多功能解决方案。
投身国产浪潮向上而行,英韧科技再获“中国芯”认可
来源:苏州工业园区12月17日,江苏路芯半导体技术有限公司掩膜版生产项目迎来重要进展——首批工艺设备机台成功搬入。路芯半导体自2023年成立以来,专注于半导体掩膜版的研发与生产,掌握130nm至28n
‍‍12月18日,深圳雷曼光电科技股份有限公司(下称“雷曼光电”)与成都辰显光电有限公司(下称“辰显光电”)在成都正式签署战略合作协议。双方将充分发挥各自在技术创新、产品研发等方面的优势,共同推进Mi
12月18日,珠海京东方晶芯科技举行设备搬入仪式。插播:加入LED显示行业群,请加VX:hangjia188在10月31日,珠海京东方晶芯科技有限公司发布了Mini/Micro LED COB显示产品
万物互联的时代浪潮中,以OLED为代表的新型显示技术,已成为人机交互、智能联结的重要端口。维信诺作为中国OLED赛道的先行者和引领者,凭借自主创新,实现了我国OLED技术的自立自强,成为中国新型显示产
来源:IT之家12 月 18 日消息,LG Display 韩国当地时间今日宣布,已将自行开发的“AI 生产系统”投入到 OLED 生产线的日常运行之中,该系统可提升 LG Display 的 OLE
扫描关注一起学嵌入式,一起学习,一起成长在嵌入式开发软件中查找和消除潜在的错误是一项艰巨的任务。通常需要英勇的努力和昂贵的工具才能从观察到的崩溃,死机或其他计划外的运行时行为追溯到根本原因。在最坏的情
近期,高科视像、新视通、江苏善行智能科技等企业持续扩充COB产能。插播:加入LED显示行业群,请加VX:hangjia188■ 高科视像:MLED新型显示面板生产项目(二期)招标12月18日,山西高科
LG Display  12月18日表示,为加强OLED制造竞争力,自主开发并引进了“AI(人工智能)生产体系”。“AI生产体系”是AI实时收集并分析OLED工艺制造数据的系统。LG Display表
 “ AWS 的收入增长应该会继续加速。 ”作者 | RichardSaintvilus编译 | 华尔街大事件亚马逊公司( NASDAQ:AMZN ) 在当前水平上还有 38% 的上涨空间。这主要得益
上个月,亿万富翁埃隆·马斯克谈到了年轻一代的生育问题。他强调生育的紧迫性,认为无论面临何种困难,生育后代都是必要的,否则人类可能会在无声中走向消亡。他认为人们对于生育的担忧有些过头,担心经济压力等问题