面包芯语

买不到GPU，马斯克自曝AI巨兽Dojo！自研超算挑战英伟达，约等于8千块H100

美股研究社 2024-08-05 20:06
热风险清零！西门子EDA黑科技，让3D IC散热设计稳如泰 封装设计“外挂”上线！xPD如何一键生成菊花链？

戳👇🏻关注 社长带你港股掘金


多年来，马斯克一直在公开谈论Dojo——这台超算将成为特斯拉人工智能雄心的基石。他最近表示，随着特斯拉准备在10月推出Robotaxi，AI团队将「加倍投入」Dojo。 


来源 | 新智元


为了训出最强Grok 3，xAI耗时19天，打造了由10万块H100组成的世界最大超算集群。
而在训练FSD、擎天柱机器人方面，马斯克同样不惜重金，投入了大量的计算资源。
超算Dojo，是特斯拉AI的基石，专为训练FSD神经网络而打造。
就在今天，他在德州超级工厂（Cortex）参观了特斯拉的超级计算机集群。
马斯克称，「这将是一个拥有约10万个H100/H200 GPU，并配备大规模存储的系统，用于全自动驾驶（FSD）和Optimus机器人的视频训练」。
不仅如此，除了英伟达GPU，这个超算集群中还配备了特斯拉HW4、AI5、Dojo系统。
它们将由一个高达500兆瓦的大型系统提供电力和冷却。
2021年特斯拉AI Day上，马斯克首次对外宣布Dojo。
如今三年过去了，Dojo建得怎样了？


8000块H100等价算力

加倍下注





半个月前，网友称2024年年底，特斯拉拥有AI训练算力，等价于9万块H100的性能。
马斯克对此做了一些补充：
我们在AI训练系统中不仅使用英伟达的GPU，还使用自己的AI计算机——Tesla HW4 AI（更名为AI4），比例大约为1:2。
这意味着相当于有大约9万个H100，加上大约4万个AI4计算机。
他还提到，到今年年底，Dojo 1将拥有大约8000个相当于H100算力。这个规模不算庞大，但也不算小。

Dojo D1超算集群
其实在去年6月，马斯克曾透露Dojo已经在线并运行了几个月的有用任务。
这已经暗示着，Dojo已经投入到一些任务的训练中。
最近，在特斯拉财报会议上，马斯克表示特斯拉准备在10月推出自动驾驶出租车，AI团队将「加倍投入」Dojo。
预计Dojo的总计算能力，将在2024年10月达到100 exaflops。
假设一个D1芯片可以实现362 teraflops，要达到100 exaflops，特斯拉将需要超过27.6万个D1芯片，或者超过32万英伟达A100 GPU。


500亿晶体管

D1已投产





2021年特斯拉AI Day上，D1芯片初次亮相，拥有500亿晶体管，只有巴掌大小。
它具备了强大和高效的性能，能够快速处理各种复杂的任务。
今年5月，D1芯片开始投产，采用台积电7nm工艺节点。
Autopilot前硬件高级总监Ganesh Venkataramanan曾表示，「D1可以同时进行计算和数据传输，采用定制ISA指令集架构，并针对机器学习工作负载进行了充分优化」。
这是一台纯粹的机器学习的芯片。
尽管如此，D1仍没有英伟达A100强大，后者同样采用了台积电7nm工艺制造。
D1在645平方毫米的芯片上放置了500亿个晶体管，而A100包含540亿个晶体管，芯片尺寸为826平方毫米，性能领先于D1。
为了获得更高的带宽和算力，特斯拉AI团队将25个D1芯片融合到一个tile中，将其作为一个统一的计算机系统运作。
每个tile拥有9 petaflops的算力，以及每秒36 TB的带宽，并包含电力源、冷却和数据传输硬件。
我们可以将单个tile视为，由25台小型计算机组成的一台自给自足的计算机。
通过使用晶圆级互连技术InFO_SoW（Integrated Fan-Out，System-on-Wafer），在同一块晶圆上的25块D1芯片可以实现高性能连接，像单个处理器一样工作。
6个这样的tile构成一个机架（rack），两个机架构成一个机柜（cabinet）。
十个机柜构成一个ExaPOD。
在2022年AI Day中，特斯拉表示，Dojo将通过部署多个ExaPOD进行扩展。所有这些加在一起构成了超级计算机。
晶圆级处理器（wafer-scale processor），比如特斯拉的Dojo和Cerebras的晶圆级引擎WSE，比多处理器（multi-processor）的性能效率要高得多。
前者的主要优点包括内核之间的高带宽和低延迟通信、较低的电网阻抗以及更高的能源效率。
目前，只有特斯拉和Cerebras拥有晶圆上系统设计。
然而，将25个芯片放在一起对电压挑战和冷却系统也是不小的挑战。

网友拍到特斯拉在德州建设巨型冷却系统
晶圆级芯片的固有挑战还在于，必须使用片上内存（on-chip memory），这不够灵活，可能无法满足所有类型的应用。
Tom's Hardware预测， 下一代使用的技术可能是CoW_SoW（Chip-on-Wafer），在tile上进行3D堆叠并集成HBM4内存。
此外，特斯拉还在研发下一代D2芯片，为了破解信息流难题。
与连接单个芯片不同，D2将整个Dojo tile放在了单个硅晶圆上。
到2027年，台积电预计将提供更复杂的晶圆级系统，计算能力预计将提升超过40倍。
自D1发布以来，特斯拉既没有公开已订购、预期接收的D1芯片订单情况，也没有公开Dojo超算的具体部署时间表。
不过在今年6月份的时候，马斯克曾表示，在未来18个月，一半部署特斯拉AI硬件，一半是英伟达/其他硬件。
其他硬件，也可能是AMD。



为什么需要Dojo





自动驾驶耗算力

在我们的印象中，特斯拉的主业仅限于生产电动汽车，再附带一些太阳能电池板和储能系统的业务。
但马斯克对特斯拉的期望远远不止于此。
大多数自动驾驶系统，比如谷歌母公司Alphabet旗下的Waymo，仍旧依靠传统的感知器作为输入，比如雷达、激光雷达和摄像头等。
但特斯拉采取的是「全视觉」路径，他们仅依靠摄像头捕捉视觉数据，辅以高清地图进行定位，再使用神经网络处理数据以进行自动驾驶的快速决策。
直观来看，显然前者是一种更简单快捷的路径，事实也的确如此。
Waymo已经实现了L4级自动驾驶的商业化，即SAE所定义的，在一定条件下下无需人工干预即可自行驾驶的系统。但特斯拉的FSD（Full Self-Driving）神经网络仍无法脱离人类操作。
Andrej Karpathy曾在特斯拉担任AI负责人，他表示，实现FSD基本是在「从头开始构建一种人造动物」。
我们可以将其理解为人类视觉皮层和大脑功能的数字复制。FSD不仅需要连续收集和处理视觉数据，识别、分类车辆周围的物体，还需要有与人类相当的决策速度。
由此可见，马斯克想要的绝不只是能盈利的自动驾驶系统而已。他的目标，是打造一种新智能。
但幸运的是，他几乎不太需要担心数据不够的问题。目前大约有180万人为FSD支付了8000美元的订阅费（之前可达1.5万美元），这意味着特斯拉能收集到数百万英里的驾驶视频用于训练。
而算力方面，Dojo超算就是FSD的训练场。它的中文名字可以翻译为「道场」，是对武术练习空间的致敬。

英伟达不给力

英伟达GPU有多抢手？看看各大科技巨头的CEO有多想跟老黄套近乎就知道了。
即便财大气粗如马斯克，也会在7月的财报电话会上承认，自己对特斯拉可能没法用上足够的英伟达GPU感到「非常担忧」。
「我们看到的是，对英伟达硬件的需求如此之高，以至于通常很难获得GPU。」
目前，特斯拉似乎依旧使用英伟达的硬件为Dojo提供算力，但马斯克似乎不想把鸡蛋都放在一个篮子里。
尤其是考虑到，英伟达芯片的溢价如此之高，而且性能还不能让马斯克完全满意。
在硬件与软件协同这方面，特斯拉与苹果的观点类似，即应该实现两者的高度协同，尤其是FSD这种高度专门化的系统，更应该摆脱高度标准化的GPU，使用定制硬件。
这个愿景的核心，是特斯拉专有的D1芯片，于2021年发布，今年5月开始由台积电量产。
此外，特斯拉还在研发下一代D2芯片，希望将整个Dojo块放在单个硅片上，解决信息流瓶颈。
在第二季度财报中，马斯克指出，他看到了「通过Dojo与英伟达竞争的另一条途径」。




Dojo能成功吗





即便自信如马斯克，在谈到Dojo时，也会支支吾吾地表示，特斯拉可能不会成功。
从长远来看，开发自己的超算硬件可以为AI部门开拓新的商业模式。
马斯克曾表示，Dojo的第一个版本将为特斯拉的视觉数据标注和训练量身定制，这对FSD和训练特斯拉的人形机器人Optimus来说非常有用。
而未来版本将更适合通用的AI训练，但这不可避免地要踏入英伟达的护城河——软件。
几乎所有的AI软件都是为了与英伟达GPU配合使用，使用Dojo就意味着要重写整个AI生态系统，包括CUDA和PyTorch。
这意味着，Dojo几乎只有一条出路——出租算力，建立类似于AWS和Azure一样的云计算平台。
摩根士丹利在去年9月的报告中预测，Dojo可以通过robotaxi和软件服务等形式释放新的收入来源，为特斯拉的市值增加5000亿美元。
简言之，从目前马斯克对硬件的谨慎配比来看，Dojo并非「孤注一掷」而更像是一种双重保险。但一旦成功，也可以释放巨大红利。

登录阅读全文
免责声明： 该内容由专栏作者授权发布或作者转载，目的在于传递更多信息，并不代表本网赞同其观点，本站亦不保证或承诺内容真实性等。若内容或图片侵犯您的权益，请及时联系本站删除。侵权投诉联系：  nick.zong@aspencore.com！
美股研究社 美股研究社,一个专注研究美股的平台,专业的美股投资人都在这.想了解美国股市行情、美股开户、美股资讯、美股公司;
评论 （0）
  • 浪潮之上：智能时代的觉醒
    浪潮之上：智能时代的觉醒    近日参加了一场课题的答辩，这是医疗人工智能揭榜挂帅的国家项目的地区考场，参与者众多，围绕着医疗健康的主题，八仙过海各显神通，百花齐放。   中国大地正在发生着激动人心的场景：深圳前海深港人工智能算力中心高速运转的液冷服务器，武汉马路上自动驾驶出租车穿行的智慧道路，机器人参与北京的马拉松竞赛。从中央到地方，人工智能相关政策和消息如雨后春笋般不断出台，数字中国的建设图景正在智能浪潮中徐徐展开，战略布局如同围棋
    广州铁金刚 2025-04-30 15:24 387浏览
  • 快手、字节“AI军备竞赛”：一场没有赢家的技术泡沫秀？
    2024年初，OpenAI公布的Sora AI视频生成模型，震撼了国产大模型行业。随后国产厂商集体发力视频大模型，快手发布视频生成大模型可灵，字节跳动发布豆包视频生成模型，正式打响了国内AI视频生成领域第一枪。众多企业匆忙入局，只为在这片新兴市场中抢占先机，却往往忽视了技术成熟度与应用规范的打磨。以社交平台上泛滥的 AI 伪造视频为例，全红婵家人被恶意仿冒博流量卖货，明星们也纷纷中招，刘晓庆、张馨予等均曾反馈有人在视频号上通过AI生成视频假冒她。这些伪造视频不仅严重侵犯他人权
    用户1742991715177 2025-05-05 23:08 89浏览
  • 【拆解】无线入耳式蓝牙耳机，从浅到深的认识
    这款无线入耳式蓝牙耳机是长这个样子的，如下图。侧面特写，如下图。充电接口来个特写，用的是卡座卡在PCB板子上的，上下夹紧PCB的正负极，如下图。撬开耳机喇叭盖子，如下图。精致的喇叭(HY)，如下图。喇叭是由电学产生声学的，具体结构如下图。电池包（AFS 451012  21 12），用黄色耐高温胶带进行包裹（安规需求），加强隔离绝缘的，如下图。451012是电池包的型号，聚合物锂电池+3.7V 35mAh，详细如下图。电路板是怎么拿出来的呢，剪断喇叭和电池包的连接线，底部抽出PCB板子
    liweicheng 2025-05-06 22:58 357浏览
  • 某国产固态电解的2次和3次谐波失真相当好，值得一试。（仅供参考）
    某国产固态电解的2次和3次谐波失真相当好，值得一试。（仅供参考）现在国产固态电解的性能跟上来了，值得一试。当然不是随便搞低端的那种。电容器对音质的影响_电子基础-面包板社区  https://mbb.eet-china.com/forum/topic/150182_1_1.html （右键复制链接打开）电容器对音质的影响相当大。电容器在音频系统中的角色不可忽视，它们能够调整系统增益、提供合适的偏置、抑制电源噪声并隔离直流成分。然而，在便携式设备中，由于空间、成本的限
    bruce小肥羊 2025-05-04 18:14 240浏览
  • 5小时自学修好BIOS卡住问题 更换硬盘
    5小时自学修好BIOS卡住问题  更换硬盘故障现象：f2、f12均失效，只有ESC和开关机键可用。错误页面：经过AI的故障截图询问，确定是机体内灰尘太多，和硬盘损坏造成，开机卡在BIOS。经过亲手拆螺丝和壳体、排线，跟换了新的2.5寸硬盘，故障排除。理论依据：以下是针对“5小时自学修好BIOS卡住问题+更换硬盘”的综合性解决方案，结合硬件操作和BIOS设置调整，分步骤说明：一、判断BIOS卡住的原因1. 初步排查     拔掉多余硬件：断开所有外接设备（如
    丙丁先生 2025-05-04 09:14 118浏览
  • 营收重回高位，但华为突围战远未结束！
    想不到短短几年时间，华为就从“技术封锁”的持久战中突围，成功将“被卡脖子”困境扭转为科技主权的主动争夺战。众所周知，前几年技术霸权国家突然对华为发难，导致芯片供应链被强行掐断，海外市场阵地接连失守，恶意舆论如汹涌潮水，让其瞬间陷入了前所未有的困境。而最近财报显示，华为已经渡过危险期，甚至开始反击。2024年财报数据显示，华为实现全球销售收入8621亿元人民币，净利润626亿元人民币；经营活动现金流为884.17亿元，同比增长26.7%。对比来看，2024年营收同比增长22.42%，2023年为7
    用户1742991715177 2025-05-02 18:40 211浏览
  • 二位半 5线数码管的驱动方法
    二位半 5线数码管的驱动方法这个2位半的7段数码管只用5个管脚驱动。如果用常规的7段+共阳/阴则需要用10个管脚。如果把每个段看成独立的灯。5个管脚来点亮，任选其中一个作为COM端时，另外4条线可以单独各控制一个灯。所以实际上最多能驱动5*4 = 20个段。但是这里会有一个小问题。如果想点亮B1，可以让第3条线（P3）置高，P4 置低，其它阳极连P3的灯对应阴极P2 P1都应置高，此时会发现C1也会点亮。实际操作时，可以把COM端线P3设置为PP输出，其它线为OD输出。就可以单独控制了。实际的驱
    southcreek 2025-05-07 15:06 239浏览
  • 紫光展锐全新奇迹手游引擎，开启游戏“芯”时代
    UNISOC Miracle Gaming奇迹手游引擎亮点：• 高帧稳帧：支持《王者荣耀》等主流手游90帧高画质模式，连续丢帧率最高降低85%;• 丝滑操控：游戏冷启动速度提升50%，《和平精英》开镜开枪操作延迟降低80%;• 极速网络：专属游戏网络引擎，使《王者荣耀》平均延迟降低80%;• 智感语音：与腾讯GVoice联合，弱网环境仍能保持清晰通话;• 超高画质：游戏画质增强、超级HDR画质、游戏超分技术，优化游戏视效。全球手游市场规模日益壮大，游戏玩家对极致体验的追求愈发苛刻。紫光展锐全新U
    紫光展锐 2025-05-07 17:07 199浏览
  • 【拆解】多功能电锅，又长知识了
    多功能电锅长什么样子，主视图如下图所示。侧视图如下图所示。型号JZ-18A，额定功率600W，额定电压220V，产自潮州市潮安区彩塘镇精致电子配件厂，铭牌如下图所示。有两颗螺丝固定底盖，找到合适的工具，拆开底盖如下图所示。可见和大部分市场的加热锅一样的工作原理，手绘原理图，根据原理图进一步理解和分析。F1为保险，250V/10A,185℃，CPGXLD 250V10A TF185℃ RY 是一款温度保险丝，额定电压是250V，额定电流是10A，动作温度是185℃。CPGXLD是温度保险丝电器元件
    liweicheng 2025-05-05 18:36 276浏览
  • 车载AI算力需求激增，紫光国芯车规级LPDDR4如何满足低功耗高性能？
    随着智能驾驶时代到来，汽车正转变为移动计算平台。车载AI技术对存储器提出新挑战：既要高性能，又需低功耗和车规级可靠性。贞光科技代理的紫光国芯车规级LPDDR4存储器，以其卓越性能成为国产芯片产业链中的关键一环，为智能汽车提供坚实的"记忆力"支持。作为官方授权代理商，贞光科技通过专业技术团队和完善供应链，让这款国产存储器更好地服务国内汽车厂商。本文将探讨车载AI算力需求现状及贞光科技如何通过紫光国芯LPDDR4产品满足市场需求。 车载AI算力需求激增的背景与挑战智能驾驶推动算力需求爆发式
    贞光科技 2025-05-07 16:54 150浏览
  • 如何正确选择和使用高斯计
    ‌一、高斯计的正确选择‌1、‌明确测量需求‌‌磁场类型‌：区分直流或交流磁场，选择对应仪器（如交流高斯计需支持交变磁场测量）。‌量程范围‌：根据被测磁场强度选择覆盖范围，例如地球磁场（0.3–0.5 G）或工业磁体（数百至数千高斯）。‌精度与分辨率‌：高精度场景（如科研）需选择误差低于1%的仪器，分辨率需匹配微小磁场变化检测需求。2、‌仪器类型选择‌‌手持式‌：便携性强，适合现场快速检测；‌台式‌：精度更高，适用于实验室或工业环境。‌探头类型‌：‌横向/轴向探头‌：根据磁场方向选择，轴向探头适合
    锦正茂科技 2025-05-06 11:36 398浏览
  • 利亚德净利暴跌、市值缩水，“羞愧”的董事长李军难翻盘
    文/郭楚妤编辑/cc孙聪颖‍相较于一众措辞谨慎、毫无掌舵者个人风格的上市公司财报，利亚德的财报显得尤为另类。利亚德光电集团成立于1995年，是一家以LED显示、液晶显示产品设计、生产、销售及服务为主业的高新技术企业。自2016年年报起，无论业绩优劣，董事长李军每年都会在财报末尾附上一首七言打油诗，抒发其对公司当年业绩的感悟。从“三年翻番顺大势”“智能显示我第一”“披荆斩棘幸从容”等词句中，不难窥见李军的雄心壮志。2012年，利亚德（300296.SZ）在深交所创业板上市。成立以来，该公司在细分领
    华尔街科技眼 2025-05-07 19:25 173浏览
  • Matter协议，智能家居生态平台的“共生契约”
    Matter协议是一个由Amazon Alexa、Apple HomeKit、Google Home和Samsung SmartThings等全球科技巨头与CSA联盟共同制定的开放性标准，它就像一份“共生契约”，能让原本相互独立的家居生态在应用层上握手共存，同时它并非另起炉灶，而是以IP（互联网协议）为基础框架，将不同通信协议下的家居设备统一到同一套“语义规则”之下。作为应用层上的互通标准，Matter协议正在重新定义智能家居行业的运行逻辑，它不仅能向下屏蔽家居设备制造商的生态和系统，让设备、平
    华普微HOPERF 2025-05-08 11:40 101浏览
  • 【拆解】行车记录仪后摄像头，挺神奇的
    后摄像头是长这个样子，如下图。5孔（D-,D+,5V,12V,GND），说的是连接线的个数，如下图。4LED，+12V驱动4颗LED灯珠，给摄像头补光用的，如下图。打开后盖，发现里面有透明白胶（防水）和白色硬胶（固定），用合适的工具，清理其中的胶状物。BOT层，AN3860，Panasonic Semiconductor （松下电器）制造的，Cylinder Motor Driver IC for Video Camera，如下图。TOP层，感光芯片和广角聚焦镜头组合，如下图。感光芯片，看着是玻
    liweicheng 2025-05-07 23:55 110浏览
我要评论
0
0
点击右上角，分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦