趋势丨速度提升数十倍,用光子计算重塑AI算力集群

AI芯天下 2024-11-02 20:30

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发






前言
要实现超强的AI能力,需要超大规模的模型,要训练超大规模的AI模型,需要数千,甚至上万的GPU协同工作。

这就带来几个问题:更多的GPU造成的高能耗,计算卡与计算卡之间的通信延迟,计算集群与计算集群之间的通信延迟和算力损耗。

那么,如果用光来计算,用光来传输,会怎么样?


作者 | 方文三
图片来源 |  网 络 


光子计算初创公司Lightmatter


Lightmatter近日宣布成功融资4亿美元,这一巨额资金将用于突破现代数据中心的瓶颈。


Lightmatter作为一家在光学领域具有创新实力的公司,其研发的光学技术成功应用于AI算力集群,实现了性能的飞跃。


传统的电子传输在数据处理速度上逐渐面临瓶颈,而Lightmatter的光学技术则利用光子的特性,以光速进行数据传输和处理,大大减少了数据传输的延迟,从而显著提高了整个算力集群的运行效率。


这种技术突破并非一蹴而就,是Lightmatter团队长期投入研发的成果。他们在光学芯片设计、光通信协议等关键领域进行了深入研究和创新,克服了诸多技术难题,最终实现了将光学技术与AI算力集群的完美融合。


Lightmatter由Nicholas Harris、Darius Bunandar和Thomas Graham于2017年创立。Nicholas Harris是麻省理工学院量子光子实验室的成员,2012年,他与合作者实现了“可编程纳米光子处理器”(PNP),这是一种基于硅光子学的光学处理器,可以对光进行矩阵变换。



光子计算重塑AI算力集群


Lightmatter有光子计算单元,有光学芯片封装和传输技术,能够系统化提升整个AI计算集群的计算力,计算效率,并降低功耗。


Lightmatter的光学互连层技术允许数百个GPU同步工作,极大地简化了AI模型训练和运行的复杂性和成本。


AI技术的迅猛发展,数据中心行业迎来了前所未有的增长,但并非简单的增加GPU数量就能解决问题。


高性能计算专家早已指出,如果超级计算机的节点在等待数据输入时处于空闲状态,那么节点的速度再快也无济于事。


互连层是将CPU和GPU架构成一个巨大计算机的关键,而Lightmatter通过其自2018年以来开发的光子芯片,构建了目前最快的互连层。


公司CEO兼创始人Nick Harris表示,超大规模计算需要更高效的光子互连技术,而传统的Cisco交换机无法满足这一需求。


目前,数据中心行业的顶尖技术是NVLink和NVL72平台,但这些技术在网络速度和延迟方面仍存在瓶颈。


Lightmatter的光子互连技术通过纯光学接口,每根光纤可达到1.6 terabits,显著提升了数据中心的性能。


创始人Harris指出,光子技术的发展速度远超预期,经过七年的艰苦研发,Lightmatter已经准备好迎接市场的挑战。



超快计算,超快连接,软件兼容


Lightmatter的产品分为光子计算平台(Envise),芯片互连产品( Passage)和适配软件(Idiom)三部分。


Envise:是世界首个光子计算平台,每个Envise处理器拥有256个RISC内核,提供400Gbps的芯片间互连带宽,而且支持PCI-E 4.0标准接口,具有不错的兼容性。


Envise处理器的原理是光通过波导进行计算,而每增加一种颜色的光源,就能相应增加运算速度。


同样是一个计算核心,当光源种类达到8种,就能提升8倍的计算性能,同时计算效率也达到普通计算核心的2.6倍。当计算核心和光源种类同步提升时,计算性能可以提升数十倍。



Passage:是一种利用光子进行芯片互连的技术,属于I/O技术的一种。任何超级计算机都由许多小型独立计算机组成,为了发挥性能,它们必须不断相互通信,确保每个核心都知道其他核心的进展,并协调超级计算机设计应对的极其复杂的计算问题。


Lightmatter的技术利用波导(wave guide)而非光纤在一个大的芯片间为各个不同种类的计算核心互连并传输数据,这提供了极高的并行互连带宽。



Idiom:是一个工作流工具,它可以让基于Pytorch、TensorFlow或ONNX等框架构建的模型,直接在Envise计算基础设施上使用。无需更改 Pytorch、TensorFlow或ONNX文件。


此外,它还为开发者提供一系列方便的工具,例如可以自动虚拟化每个 Envise服务器,在多个Envise服务器之间执行分区,为多个不同的用户个性化分配使用的芯片数量。



市场竞争格局


Lightmatter的光子互连技术不仅提升了数据中心的性能,还吸引了包括微软、亚马逊、xAI和OpenAI在内的众多大型数据中心公司的关注。


此次4亿美元的D轮融资使Lightmatter的估值达到44亿美元,成为光子计算领域的领军企业。


但专注于光子计算的公司,不止Lightmatter一家,Celestial AI也在今年3月获得了1.75亿美元的C轮融资,它主要利用光在芯片内部和芯片之间进行数据移动,与Lightmatter的Passage类似。


中国市场上也有不少在光子计算领域耕耘的公司,只是它们的发展规模相对较小。


目前,中国市场的AI算力硬件公司们,其实面临着弯道超车的机会。这个局面有些像中国的新能源汽车行业,不在旧有的体系架构上追赶国外巨头,而用新技术去满足新需求,建立自己的优势。


一方面AI计算是一个相对较新的领域,海外的公司有领先,但是并没有构建很难逾越的壁垒,另一方面AI是专有计算,有不少开源的计算架构适合AI。


中国公司只要能研发出一些自有的IP,再利用本身就具有的强工程能力,就很有可能开发出至少不逊于海外的算力硬件。



结尾:


未来,Lightmatter不仅将继续优化互连技术,还将开发新的芯片基板,进一步提升光子计算的性能。Harris预测,未来十年,互连技术将成为摩尔定律的核心。


内容来源于:阿尔法公社:用光学让AI算力集群提速数十倍,Lightmatter融资4亿美元|AlphaFounders;安特恩:光子计算新纪元:Lightmatter融资4亿美元,引领AI数据中心革命


本公众号所刊发稿件及图片来源于网络,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。




END


推荐阅读:


商务合作请加微信勾搭:

18948782064

请务必注明:

「姓名 + 公司 + 合作需求」


AI芯天下 聚焦人工智能,AI芯片,5G通讯等行业动态
评论 (0)
  • 现阶段,Zigbee、Z-Wave、Thread、Wi-Fi与蓝牙等多种通信协议在智能家居行业中已得到广泛应用,但协议间互不兼容的通信问题仍在凸显。由于各协议自成体系、彼此割据,智能家居市场被迫催生出大量桥接器、集线器及兼容性软件以在不同生态的设备间构建通信桥梁,而这种现象不仅增加了智能家居厂商的研发成本与时间投入,还严重削减了终端用户的使用体验。为应对智能家居的生态割裂现象,家居厂商需为不同通信协议重复开发适配方案,而消费者则需面对设备入网流程繁琐、跨品牌功能阉割及兼容隐患等现实困境。在此背景
    华普微HOPERF 2025-04-17 17:53 49浏览
  • 【摘要/前言】4月春日花正好,Electronica就在浪漫春日里,盛大启幕。2025年4月15-17日,慕尼黑上海电子展于上海新国际博览中心成功举办。伴随着AI、新能源汽车、半导体的热潮,今年的Electronica盛况空前。请跟随Samtec的视角,感受精彩时刻!【 Samtec展台:老虎的朋友圈技术派对】借天时、占地利、聚人和,Samtec 展台人气爆棚!每年展会与大家相聚,总能收获温暖与动力~Samtec展台位于W3展馆716展位,新老朋友相聚于此,俨然一场线下技术派对!前沿D
    电子资讯报 2025-04-17 11:38 40浏览
  •   无人机蜂群电磁作战仿真系统软件,是专门用于模拟、验证无人机蜂群在电磁作战环境中协同、干扰、通信以及对抗等能力的工具。下面从功能需求、技术架构、典型功能模块、发展趋势及应用场景等方面展开介绍:   应用案例   目前,已有多个无人机蜂群电磁作战仿真系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润无人机蜂群电磁作战仿真系统。这些成功案例为无人机蜂群电磁作战仿真系统的推广和应用提供了有力支持。   功能需求   电磁环境建模:模拟构建复杂多样的电磁环境,涵盖各类电磁干扰源与
    华盛恒辉l58ll334744 2025-04-17 16:49 64浏览
  • 一、行业背景与产品需求随着社会对清洁效率与用户体验要求的提升,洗地机行业迎来快速发展期。面对激烈的市场竞争,产品差异化成为制胜关键。传统洗地机普遍存在两大痛点:操作交互单一化与成本控制困境。尤其对于老年用户群体,缺乏语音状态提示和警示功能,导致操作门槛升高;而硬件方案中MCU与语音功能的耦合设计,则增加了系统复杂度与开发成本。WT588F/WTV/WT2003系列语音芯片的引入,为洗地机行业提供了低成本、高集成、强扩展性的解决方案,既满足用户友好性需求,又助力厂商实现硬件架构优化。二、方案核心亮
    广州唯创电子 2025-04-17 08:22 31浏览
  • 近日,全球6G技术与产业生态大会(简称“全球6G技术大会”)在南京召开。紫光展锐应邀出席“空天地一体化与数字低空”平行论坛,并从6G通信、感知、定位等多方面分享了紫光展锐在6G前沿科技领域的创新理念及在空天地一体化技术方面的研发探索情况。全球6G技术大会是6G领域覆盖广泛、内容全面的国际会议。今年大会以“共筑创新 同享未来”为主题,聚焦6G愿景与关键技术、安全可信、绿色可持续发展等前沿主题,汇聚国内外24家企业、百余名国际知名高校与科研代表共同商讨如何推动全行业6G标准共识形成。6G迈入关键期,
    紫光展锐 2025-04-17 18:55 127浏览
  •   无人机电磁环境效应仿真系统:深度剖析   一、系统概述   无人机电磁环境效应仿真系统,专为无人机在复杂电磁环境下的性能评估及抗干扰能力训练打造。借助高精度仿真技术,它模拟无人机在各类电磁干扰场景中的运行状态,为研发、测试与训练工作提供有力支撑。   应用案例   目前,已有多个无人机电磁环境效应仿真系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润无人机电磁环境效应仿真系统。这些成功案例为无人机电磁环境效应仿真系统的推广和应用提供了有力支持。   二、系统功能  
    华盛恒辉l58ll334744 2025-04-17 15:51 64浏览
  •   无人机蜂群电磁作战仿真系统全解析   一、系统概述   无人机蜂群电磁作战仿真系统是专业的仿真平台,用于模拟无人机蜂群在复杂电磁环境中的作战行为与性能。它构建虚拟电磁环境,模拟无人机蜂群执行任务时可能遇到的电磁干扰与攻击,评估作战效能和抗干扰能力,为其设计、优化及实战应用提供科学依据。   应用案例   目前,已有多个无人机蜂群电磁作战仿真系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润无人机蜂群电磁作战仿真系统。这些成功案例为无人机蜂群电磁作战仿真系统的推广和应用提
    华盛恒辉l58ll334744 2025-04-17 16:29 70浏览
  • 1. 在Ubuntu官网下载Ubuntu server  20.04版本https://releases.ubuntu.com/20.04.6/2. 在vmware下安装Ubuntu3. 改Ubuntu静态IP$ sudo vi /etc/netplan/00-installer-config.yaml# This is the network config written by 'subiquity'network:  renderer: networkd&nbs
    二月半 2025-04-17 16:27 67浏览
  •   无人机电磁兼容模拟训练系统软件:全方位剖析   一、系统概述   北京华盛恒辉无人机电磁兼容模拟训练系统软件,专为满足无人机于复杂电磁环境下的运行需求而打造,是一款专业训练工具。其核心功能是模拟无人机在电磁干扰(EMI)与电磁敏感度(EMS)环境里的运行状况,助力用户评估无人机电磁兼容性能,增强其在复杂电磁场景中的适应水平。   应用案例   目前,已有多个无人机电磁兼容模拟训练系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润无人机电磁兼容模拟训练系统。这些成功案例为
    华盛恒辉l58ll334744 2025-04-17 14:52 33浏览
  •   北京华盛恒辉无人机电磁兼容模拟训练系统软件是专门用于模拟与分析无人机在复杂电磁环境中电磁兼容性(EMC)表现的软件工具。借助仿真技术,它能帮助用户评估无人机在电磁干扰下的性能,优化电磁兼容设计,保障无人机在复杂电磁环境中稳定运行。   应用案例   目前,已有多个无人机电磁兼容模拟训练系统在实际应用中取得了显著成效。例如,北京华盛恒辉和北京五木恒润无人机电磁兼容模拟训练系统。这些成功案例为无人机电磁兼容模拟训练系统的推广和应用提供了有力支持。   系统功能   电磁环境建模:支持三维
    华盛恒辉l58ll334744 2025-04-17 15:10 52浏览
  • 一、行业背景与需求智能门锁作为智能家居的核心入口,正从单一安防工具向多场景交互终端演进。随着消费者对便捷性、安全性需求的提升,行业竞争已从基础功能转向成本优化与智能化整合。传统门锁后板方案依赖多颗独立芯片(如MCU、电机驱动、通信模块、语音模块等),导致硬件复杂、功耗高、开发周期长,且成本压力显著。如何通过高集成度方案降低成本、提升功能扩展性,成为厂商破局关键。WTVXXX-32N语音芯片通过“单芯片多任务”设计,将语音播报、电机驱动、通信协议解析、传感器检测等功能整合于一体,为智能门锁后板提供
    广州唯创电子 2025-04-18 09:04 116浏览
  • 一、行业背景与需求随着智能化技术的快速发展和用户对便捷性需求的提升,电动车行业正经历从传统机械控制向智能交互的转型。传统电动车依赖物理钥匙、遥控器和独立防盗装置,存在操作繁琐、功能单一、交互性差等问题。用户期待通过手机等智能终端实现远程控制、实时数据监控及个性化交互体验。为此,将蓝牙语音芯片集成至电动车中控系统,成为推动智能化升级的关键技术路径。二、方案概述本方案通过在电动车中控系统中集成WT2605C蓝牙语音芯片,构建一套低成本、高兼容性的智能交互平台,实现以下核心功能:手机互联控制:支持蓝牙
    广州唯创电子 2025-04-18 08:33 99浏览
  • 一、汽车智能化浪潮下的蓝牙技术革新随着智能网联汽车的快速发展,车载信息娱乐系统(IVI)正从单一的驾驶辅助向“第三生活空间”转型。蓝牙技术作为车内无线连接的核心载体,承担着音频传输、设备互联、数据交互等关键任务。然而,传统方案中MCU需集成蓝牙协议栈,开发周期长、成本高,且功能扩展性受限。WT2605C蓝牙语音芯片应势而生,以双模蓝牙SOC架构重新定义车用蓝牙系统的开发模式,通过“多、快、好、省”四大核心价值,助力车企快速打造高性价比的智能座舱交互方案。二、WT2605C芯片的四大核心优势1.
    广州唯创电子 2025-04-17 08:38 27浏览
  • 自动驾驶技术的飞速发展,正在重新定义未来出行的边界。从感知到决策,从规划到控制,每一个环节都离不开海量、精准的高质量数据支撑。然而,随着传感器数量的增加和数据规模的指数级增长,行业正面临一系列挑战:多源传感器数据的时间同步难题、复杂数据格式的适配、测量技术的灵活性不足、设备集成周期冗长等,这些问题正成为自动驾驶研发与测试的“隐形瓶颈”。基于技术积累与行业洞察,本文分享一套创新的ADAS时空融合数据采集方案。通过硬件与软件的深度协同优化,能够很好地解决数据采集中的核心痛点,还为自动驾驶研发提供了高
    康谋 2025-04-17 09:54 45浏览
  • 置信区间反映的是“样本均值”这个统计量的不确定性,因此使用的是标准误(standard error),而不是直接用样本标准差(standard deviation)。标准误体现的是均值的波动程度,而样本标准差体现的是个体数据的波动程度,两者并非一回事,就如下图所显示的一样。下面优思学院会一步一步解释清楚:一、标准差和标准误,究竟差在哪?很多同学对“标准差”和“标准误”这两个概念傻傻分不清楚,但其实差别明显:标准差(Standard Deviation,σ或s):是衡量单个数据点相对于平均值波动的
    优思学院 2025-04-17 13:59 24浏览
我要评论
0
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦