趋势丨速度提升数十倍,用光子计算重塑AI算力集群

AI芯天下 2024-11-02 20:30

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发






前言
要实现超强的AI能力,需要超大规模的模型,要训练超大规模的AI模型,需要数千,甚至上万的GPU协同工作。

这就带来几个问题:更多的GPU造成的高能耗,计算卡与计算卡之间的通信延迟,计算集群与计算集群之间的通信延迟和算力损耗。

那么,如果用光来计算,用光来传输,会怎么样?


作者 | 方文三
图片来源 |  网 络 


光子计算初创公司Lightmatter


Lightmatter近日宣布成功融资4亿美元,这一巨额资金将用于突破现代数据中心的瓶颈。


Lightmatter作为一家在光学领域具有创新实力的公司,其研发的光学技术成功应用于AI算力集群,实现了性能的飞跃。


传统的电子传输在数据处理速度上逐渐面临瓶颈,而Lightmatter的光学技术则利用光子的特性,以光速进行数据传输和处理,大大减少了数据传输的延迟,从而显著提高了整个算力集群的运行效率。


这种技术突破并非一蹴而就,是Lightmatter团队长期投入研发的成果。他们在光学芯片设计、光通信协议等关键领域进行了深入研究和创新,克服了诸多技术难题,最终实现了将光学技术与AI算力集群的完美融合。


Lightmatter由Nicholas Harris、Darius Bunandar和Thomas Graham于2017年创立。Nicholas Harris是麻省理工学院量子光子实验室的成员,2012年,他与合作者实现了“可编程纳米光子处理器”(PNP),这是一种基于硅光子学的光学处理器,可以对光进行矩阵变换。



光子计算重塑AI算力集群


Lightmatter有光子计算单元,有光学芯片封装和传输技术,能够系统化提升整个AI计算集群的计算力,计算效率,并降低功耗。


Lightmatter的光学互连层技术允许数百个GPU同步工作,极大地简化了AI模型训练和运行的复杂性和成本。


AI技术的迅猛发展,数据中心行业迎来了前所未有的增长,但并非简单的增加GPU数量就能解决问题。


高性能计算专家早已指出,如果超级计算机的节点在等待数据输入时处于空闲状态,那么节点的速度再快也无济于事。


互连层是将CPU和GPU架构成一个巨大计算机的关键,而Lightmatter通过其自2018年以来开发的光子芯片,构建了目前最快的互连层。


公司CEO兼创始人Nick Harris表示,超大规模计算需要更高效的光子互连技术,而传统的Cisco交换机无法满足这一需求。


目前,数据中心行业的顶尖技术是NVLink和NVL72平台,但这些技术在网络速度和延迟方面仍存在瓶颈。


Lightmatter的光子互连技术通过纯光学接口,每根光纤可达到1.6 terabits,显著提升了数据中心的性能。


创始人Harris指出,光子技术的发展速度远超预期,经过七年的艰苦研发,Lightmatter已经准备好迎接市场的挑战。



超快计算,超快连接,软件兼容


Lightmatter的产品分为光子计算平台(Envise),芯片互连产品( Passage)和适配软件(Idiom)三部分。


Envise:是世界首个光子计算平台,每个Envise处理器拥有256个RISC内核,提供400Gbps的芯片间互连带宽,而且支持PCI-E 4.0标准接口,具有不错的兼容性。


Envise处理器的原理是光通过波导进行计算,而每增加一种颜色的光源,就能相应增加运算速度。


同样是一个计算核心,当光源种类达到8种,就能提升8倍的计算性能,同时计算效率也达到普通计算核心的2.6倍。当计算核心和光源种类同步提升时,计算性能可以提升数十倍。



Passage:是一种利用光子进行芯片互连的技术,属于I/O技术的一种。任何超级计算机都由许多小型独立计算机组成,为了发挥性能,它们必须不断相互通信,确保每个核心都知道其他核心的进展,并协调超级计算机设计应对的极其复杂的计算问题。


Lightmatter的技术利用波导(wave guide)而非光纤在一个大的芯片间为各个不同种类的计算核心互连并传输数据,这提供了极高的并行互连带宽。



Idiom:是一个工作流工具,它可以让基于Pytorch、TensorFlow或ONNX等框架构建的模型,直接在Envise计算基础设施上使用。无需更改 Pytorch、TensorFlow或ONNX文件。


此外,它还为开发者提供一系列方便的工具,例如可以自动虚拟化每个 Envise服务器,在多个Envise服务器之间执行分区,为多个不同的用户个性化分配使用的芯片数量。



市场竞争格局


Lightmatter的光子互连技术不仅提升了数据中心的性能,还吸引了包括微软、亚马逊、xAI和OpenAI在内的众多大型数据中心公司的关注。


此次4亿美元的D轮融资使Lightmatter的估值达到44亿美元,成为光子计算领域的领军企业。


但专注于光子计算的公司,不止Lightmatter一家,Celestial AI也在今年3月获得了1.75亿美元的C轮融资,它主要利用光在芯片内部和芯片之间进行数据移动,与Lightmatter的Passage类似。


中国市场上也有不少在光子计算领域耕耘的公司,只是它们的发展规模相对较小。


目前,中国市场的AI算力硬件公司们,其实面临着弯道超车的机会。这个局面有些像中国的新能源汽车行业,不在旧有的体系架构上追赶国外巨头,而用新技术去满足新需求,建立自己的优势。


一方面AI计算是一个相对较新的领域,海外的公司有领先,但是并没有构建很难逾越的壁垒,另一方面AI是专有计算,有不少开源的计算架构适合AI。


中国公司只要能研发出一些自有的IP,再利用本身就具有的强工程能力,就很有可能开发出至少不逊于海外的算力硬件。



结尾:


未来,Lightmatter不仅将继续优化互连技术,还将开发新的芯片基板,进一步提升光子计算的性能。Harris预测,未来十年,互连技术将成为摩尔定律的核心。


内容来源于:阿尔法公社:用光学让AI算力集群提速数十倍,Lightmatter融资4亿美元|AlphaFounders;安特恩:光子计算新纪元:Lightmatter融资4亿美元,引领AI数据中心革命


本公众号所刊发稿件及图片来源于网络,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。




END


推荐阅读:


商务合作请加微信勾搭:

18948782064

请务必注明:

「姓名 + 公司 + 合作需求」


AI芯天下 聚焦人工智能,AI芯片,5G通讯等行业动态
评论
  • 国产光耦合器正以其创新性和多样性引领行业发展。凭借强大的研发能力,国内制造商推出了适应汽车、电信等领域独特需求的专业化光耦合器,为各行业的技术进步提供了重要支持。本文将重点探讨国产光耦合器的技术创新与产品多样性,以及它们在推动产业升级中的重要作用。国产光耦合器创新的作用满足现代需求的创新模式新设计正在满足不断变化的市场需求。例如,高速光耦合器满足了电信和数据处理系统中快速信号传输的需求。同时,栅极驱动光耦合器支持电动汽车(EV)和工业电机驱动器等大功率应用中的精确高效控制。先进材料和设计将碳化硅
    克里雅半导体科技 2024-11-29 16:18 157浏览
  • 光耦合器作为关键技术组件,在确保安全性、可靠性和效率方面发挥着不可或缺的作用。无论是混合动力和电动汽车(HEV),还是军事和航空航天系统,它们都以卓越的性能支持高要求的应用环境,成为现代复杂系统中的隐形功臣。在迈向更环保技术和先进系统的过程中,光耦合器的重要性愈加凸显。1.混合动力和电动汽车中的光耦合器电池管理:保护动力源在电动汽车中,电池管理系统(BMS)是最佳充电、放电和性能监控背后的大脑。光耦合器在这里充当守门人,将高压电池组与敏感的低压电路隔离开来。这不仅可以防止潜在的损坏,还可以提高乘
    腾恩科技-彭工 2024-11-29 16:12 117浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 54浏览
  • 在电子技术快速发展的今天,KLV15002光耦固态继电器以高性能和强可靠性完美解决行业需求。该光继电器旨在提供无与伦比的电气隔离和无缝切换,是现代系统的终极选择。无论是在电信、工业自动化还是测试环境中,KLV15002光耦合器固态继电器都完美融合了效率和耐用性,可满足当今苛刻的应用需求。为什么选择KLV15002光耦合器固态继电器?不妥协的电压隔离从本质上讲,KLV15002优先考虑安全性。输入到输出隔离达到3750Vrms(后缀为V的型号为5000Vrms),确保即使在高压情况下,敏感的低功耗
    克里雅半导体科技 2024-11-29 16:15 119浏览
  • 戴上XR眼镜去“追龙”是种什么体验?2024年11月30日,由上海自然博物馆(上海科技馆分馆)与三湘印象联合出品、三湘印象旗下观印象艺术发展有限公司(下简称“观印象”)承制的《又见恐龙》XR嘉年华在上海自然博物馆重磅开幕。该体验项目将于12月1日正式对公众开放,持续至2025年3月30日。双向奔赴,恐龙IP撞上元宇宙不久前,上海市经济和信息化委员会等部门联合印发了《上海市超高清视听产业发展行动方案》,特别提到“支持博物馆、主题乐园等场所推动超高清视听技术应用,丰富线下文旅消费体验”。作为上海自然
    电子与消费 2024-11-30 22:03 68浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 48浏览
  • 《高速PCB设计经验规则应用实践》+PCB绘制学习与验证读书首先看目录,我感兴趣的是这一节;作者在书中列举了一条经典规则,然后进行详细分析,通过公式推导图表列举说明了传统的这一规则是受到电容加工特点影响的,在使用了MLCC陶瓷电容后这一条规则已经不再实用了。图书还列举了高速PCB设计需要的专业工具和仿真软件,当然由于篇幅所限,只是介绍了一点点设计步骤;我最感兴趣的部分还是元件布局的经验规则,在这里列举如下:在这里,演示一下,我根据书本知识进行电机驱动的布局:这也算知行合一吧。对于布局书中有一句:
    wuyu2009 2024-11-30 20:30 82浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 55浏览
  • 艾迈斯欧司朗全新“样片申请”小程序,逾160种LED、传感器、多芯片组合等产品样片一触即达。轻松3步完成申请,境内免费包邮到家!本期热荐性能显著提升的OSLON® Optimal,GF CSSRML.24ams OSRAM 基于最新芯片技术推出全新LED产品OSLON® Optimal系列,实现了显著的性能升级。该系列提供五种不同颜色的光源选项,包括Hyper Red(660 nm,PDN)、Red(640 nm)、Deep Blue(450 nm,PDN)、Far Red(730 nm)及Ho
    艾迈斯欧司朗 2024-11-29 16:55 152浏览
  • 学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&
    youyeye 2024-11-30 14:30 61浏览
  • 国产光耦合器因其在电子系统中的重要作用而受到认可,可提供可靠的电气隔离并保护敏感电路免受高压干扰。然而,随着行业向5G和高频数据传输等高速应用迈进,对其性能和寿命的担忧已成为焦点。本文深入探讨了国产光耦合器在高频环境中面临的挑战,并探索了克服这些限制的创新方法。高频性能:一个持续关注的问题信号传输中的挑战国产光耦合器传统上利用LED和光电晶体管进行信号隔离。虽然这些组件对于标准应用有效,但在高频下面临挑战。随着工作频率的增加,信号延迟和数据保真度降低很常见,限制了它们在电信和高速计算等领域的有效
    腾恩科技-彭工 2024-11-29 16:11 105浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦