有关谷歌AI设计芯片的激烈分歧

EETOP 2023-08-02 08:08

一项研究试图解决围绕谷歌人工智能工具的激烈分歧。

芯片设计大会上的讨论很少白热化。不过,一年前,在国际物理设计研讨会(ISPD)上,事态失控了。观察人员用“火车碰撞”和“埋伏偷袭”来比喻当时的事态。冲突的症结是芯片设计难题,即谷歌借助人工智能(AI)的解决方案是否真的比人工和最先进的算法好。为此,一位知名的男性电子设计自动化(EDA)专家与谷歌的两名年轻女性计算机科学家针锋相对,由此引发的争论已经导致一名谷歌研究员被解雇。

2023年,同样是在国际物理设计研讨会上,该领域的领导者、IEEE会士安德鲁•卡恩(Andrew Kahng)希望一劳永逸地结束这场争论。他和加州大学圣地亚哥分校(UCSD)的同事对谷歌的强化学习方法进行了“公开透明的操作和评估”。他们使用了谷歌名为“循环训练”(Circuit Training)的开源版本,并对卡恩团队不够清晰的部分进行了逆向工程,他们将强化学习与人类设计师、商业软件和最先进的学术算法进行了对比。


在大多数情况下,循环训练并不是赢家,但它具有竞争性。由于各种原因,该研究没有测试循环训练的招牌功能:通过学习其他芯片设计来提高其性能。

“我们的目标很明确,就是推动社区不断进步。”他在2023年国际物理设计研讨会上告诉工程师们。只有时间能证明这是否可行。


如何与何时

工程师讨论的问题被称为布局,即确定逻辑或内存块应该放在芯片的什么位置。布局时必须考虑权衡各种矛盾的因素,最大限度地提高芯片的工作频率,同时最大限度地降低其功耗和占用空间。找到这个问题的最佳解决方案是最困难的部分之一,可能的排列组合比围棋还多。

不过,围棋最终被一款名为深度强化学习的人工智能打败了,这正是前谷歌大脑研究员阿扎利亚•米尔霍西尼(Azalia Mirhoseini)和安娜•戈尔迪(Anna Goldie)在布局问题上应用的方案。该方案当时被称为Morpheus,它将放置大块电路(称为“宏”)视为一个游戏,学习如何在游戏的过程中找到最佳解决方案。(宏的位置对芯片特性有巨大的影响。在循环训练和Morpheus中,用一种被称为标准单元单独的算法在空白处来填充小部件。针对宏和标准单元,其他方法使用同样的过程。)

简而言之,其工作原理如下:芯片的设计文件从网表开始,在网表中指定哪些宏和单元根据什么约束条件连接到其他宏和单元。为了帮助加快训练过程,标准单元随后被收集到该集群。之后,循环训练会开始将宏一次一个地放置到芯片“画布”上。当最后一个宏放置后,单独的算法在空白处填充标准单元,系统会尝试进行快速评估,包括布线的长度(越长越差)、密集程度(越密集越差)及其拥挤程度(越拥挤越差)。这被称为代理成本,就像电子游戏中的分数一样。该分数作为反馈,用于调整神经网络,然后系统会再次尝试。洗涤、漂洗、重复。系统最终学会任务,商业软件对整个布局进行全面的评估,生成芯片设计者关心的各种指标,如面积、功耗和约束频率等。

经过7个月的审核过程,米尔霍西尼和戈尔迪于2021年6月在美国《自然》杂志上发表了Morpheus的研究结果和方法。(卡恩是第三位审查员。)该技术用于设计多代谷歌的张量处理单元(TPU)人工智能加速器芯片。2022年1月,谷歌在GitHub上发布了循环训练的开源版本,但卡恩和其他人表示,即使是这个版本也不够完整,无法复制该项研究。

为了回应《自然》杂志上发表的内容,一个主要由谷歌内部工程师组成的独立团队开始研究自己的方法,并认为该方法可以更好地将强化学习与现有算法进行对比。不过,这种竞争并不友好。据新闻报道,该小组的领导人、谷歌研究员萨特拉吉特•查特吉(Satrajit Chatterjee)多次暗中损害米尔霍西尼和戈尔迪的个人利益,并于2022年因此被解雇。

查特吉仍在谷歌就职时,他的团队发表了一篇题为《更强大的基线》(Stronger Baselines)的论文,批评了发表在《自然》杂志上的研究。他试图将论文提交给一个大会,但经过独立决议委员会审查后,谷歌拒绝了。在他被解雇后,就在2022年国际物理设计研讨会之前,该论文的早期版本被一个匿名推特账户泄露,从而引发了公众的对峙。

基准、基线和再现性

《科技纵览》在2022年国际物理设计研讨会之后与电子设计自动化专家探讨时发现,批评者有3个相互关联的关注点:基准、基线和再现性。

基准是公开可用的电路设计,研究人员可以在基准上测试新的算法。谷歌在开始工作时常用的基准来源于已经有大约20年历史的设计。尽管其与现代芯片的相关性存在一些争论,但它们仍然得到了广泛的支持。

《自然》杂志的论文主要关注的不是这些基准,而是谷歌张量处理单元的布局,这是一种复杂且前沿的芯片,该公司以外的研究人员无法设计。

基线是与新系统竞争的最先进的算法。《自然》杂志上的那篇论文将强化学习比作人类专家和当时领先的学术算法RePlAce。《更强大的基线》一文则认为,《自然》杂志的工作并未恰当地执行RePlAce,而另一种算法模拟退火也需要进行比较。

而实际上,卡恩真正关注的是再现性。他认为,发布在GitHub上的循环训练无法让另外一个独立小组完全重复全过程。因此加州大学圣地亚哥分校团队对卡恩认为缺失的元素和参数进行了逆向工程。

重要的是,卡恩的团队公开记录了进展、代码、数据集和过程,作为此类工作可提高再现性的示例。

加州大学圣地亚哥分校的工作被称为MacroPlacement,它不是对《自然》杂志论文的一对一的重做。除了使用公共基准,其中两个已在2020年和2021年无法使用,MacroPlacement还分别将循环训练与Cadence的商业工具Innovus并发宏放置器(CMP)和英伟达开发的一种名为AutoDMP的方法进行对比,后者是在卡恩发言前几分钟在2023年国际物理设计研讨会上公开推出的。

另一个关键区别在于,每个Macro-Placement结果都来自以前从未见过设计的神经网络。而在《自然》杂志论文的实验中,研究人员曾用20个张量处理单元电路样本对该网络进行了预训练,然后将其结果与其他方法的结果进行比较。米尔霍西尼和戈尔迪认为缺少预训练剥夺了该方法的主要优势。她们在一封电子邮件中写道,循环训练“与其他任何方法都不同,它能够从经验中学习,针对其看到的每一个问题,快速产生更好的布局”。

按照MacroPlacement常见问题解答(FAQ),没有测试预训练是因为使用预训练网络的代码没有在循环训练中发布,而且没有可用的设计能与《自然》杂志论文中完成的训练相匹配。此外,对于该团队测试的最小基准Ariane,谷歌已经表明,预训练的结果不会产生比《自然》杂志上已发表内容更好。

循环训练与其他技术的比较

卡恩的论文报告使用两种工艺技术,实现3种基准设计的结果。该团队测量的指标与米尔霍西尼和戈尔迪在其《自然》杂志论文中所做的指标相同,包括面积、布线长度、功率、两个时序指标和前文所述的代理成本。(代理成本并不是生产中使用的实际指标,包含该指标是为了对应《自然》杂志论文。)结果是好坏参半。

正如《自然》杂志原始论文中所述,在大多数面对面比较的指标上,强化学习打败了RePlAce。(对3种设计中最大的一种,RePlAce未能生成布局。)与人类专家相比,循环训练经常失败;与模拟退火相比,结果多为平局。


最大的赢家是商业工具CMP和新加入的AutoDMP,与其他方法相比,它们能在更多情况下提供最佳指标。

继续前行

毫无疑问,这场争端带来的后果大多数都是负面的。查特吉陷入了与谷歌不当终止合同的诉讼。卡恩及其团队花费了大量的时间和精力来重建几年前完成的工作,而且可能是多次重建。多年来,戈尔迪和米尔霍西尼在承受引用未发表和未审查研究的批评后,离开了这一历来难以吸引女性人才的工程领域。从2022年8月以来,她们一直在人工智能研究公司Anthropic从事有关大型语言模型的强化学习工作。

如果说有积极的一面,那么就是卡恩的工作为开源和可重现研究提供了一个模型,并增加了公开可用工具,从而推动了芯片设计中的这一部分向前发展。尽管如此,机器学习在芯片设计中的应用已经开始传播开来,如今,它正在帮助了新思科技(Synopsys)、楷登电子(Cadence)、西门子EDA的商业电子设计自动化工具在不断发展。

然而,没有这些不愉快,所有的好事也会出现。

文章来源于悦智网,作者Samuel K. Moore


Cadence 2023 中国用户大会

人工智能设计芯片专题议程揭晓 

邀请报名

EETOP EETOP半导体社区-国内知名的半导体行业媒体、半导体论坛、IC论坛、集成电路论坛、电子工程师博客、工程师BBS。
评论
  • Ubuntu20.04默认情况下为root账号自动登录,本文介绍如何取消root账号自动登录,改为通过输入账号密码登录,使用触觉智能EVB3568鸿蒙开发板演示,搭载瑞芯微RK3568,四核A55处理器,主频2.0Ghz,1T算力NPU;支持OpenHarmony5.0及Linux、Android等操作系统,接口丰富,开发评估快人一步!添加新账号1、使用adduser命令来添加新用户,用户名以industio为例,系统会提示设置密码以及其他信息,您可以根据需要填写或跳过,命令如下:root@id
    Industio_触觉智能 2025-01-17 14:14 142浏览
  • 故障现象 一辆2007款日产天籁车,搭载VQ23发动机(气缸编号如图1所示,点火顺序为1-2-3-4-5-6),累计行驶里程约为21万km。车主反映,该车起步加速时偶尔抖动,且行驶中加速无力。 图1 VQ23发动机的气缸编号 故障诊断接车后试车,发动机怠速运转平稳,但只要换挡起步,稍微踩下一点加速踏板,就能感觉到车身明显抖动。用故障检测仪检测,发动机控制模块(ECM)无故障代码存储,且无失火数据流。用虹科Pico汽车示波器测量气缸1点火信号(COP点火信号)和曲轴位置传感器信
    虹科Pico汽车示波器 2025-01-23 10:46 61浏览
  • 日前,商务部等部门办公厅印发《手机、平板、智能手表(手环)购新补贴实施方案》明确,个人消费者购买手机、平板、智能手表(手环)3类数码产品(单件销售价格不超过6000元),可享受购新补贴。每人每类可补贴1件,每件补贴比例为减去生产、流通环节及移动运营商所有优惠后最终销售价格的15%,每件最高不超过500元。目前,京东已经做好了承接手机、平板等数码产品国补优惠的落地准备工作,未来随着各省市关于手机、平板等品类的国补开启,京东将第一时间率先上线,满足消费者的换新升级需求。为保障国补的真实有效发放,基于
    华尔街科技眼 2025-01-17 10:44 238浏览
  • 嘿,咱来聊聊RISC-V MCU技术哈。 这RISC-V MCU技术呢,简单来说就是基于一个叫RISC-V的指令集架构做出的微控制器技术。RISC-V这个啊,2010年的时候,是加州大学伯克利分校的研究团队弄出来的,目的就是想搞个新的、开放的指令集架构,能跟上现代计算的需要。到了2015年,专门成立了个RISC-V基金会,让这个架构更标准,也更好地推广开了。这几年啊,这个RISC-V的生态系统发展得可快了,好多公司和机构都加入了RISC-V International,还推出了不少RISC-V
    丙丁先生 2025-01-21 12:10 499浏览
  • 数字隔离芯片是一种实现电气隔离功能的集成电路,在工业自动化、汽车电子、光伏储能与电力通信等领域的电气系统中发挥着至关重要的作用。其不仅可令高、低压系统之间相互独立,提高低压系统的抗干扰能力,同时还可确保高、低压系统之间的安全交互,使系统稳定工作,并避免操作者遭受来自高压系统的电击伤害。典型数字隔离芯片的简化原理图值得一提的是,数字隔离芯片历经多年发展,其应用范围已十分广泛,凡涉及到在高、低压系统之间进行信号传输的场景中基本都需要应用到此种芯片。那么,电气工程师在进行电路设计时到底该如何评估选择一
    华普微HOPERF 2025-01-20 16:50 119浏览
  • 2024年是很平淡的一年,能保住饭碗就是万幸了,公司业绩不好,跳槽又不敢跳,还有一个原因就是老板对我们这些员工还是很好的,碍于人情也不能在公司困难时去雪上加霜。在工作其间遇到的大问题没有,小问题还是有不少,这里就举一两个来说一下。第一个就是,先看下下面的这个封装,你能猜出它的引脚间距是多少吗?这种排线座比较常规的是0.6mm间距(即排线是0.3mm间距)的,而这个规格也是我们用得最多的,所以我们按惯性思维来看的话,就会认为这个座子就是0.6mm间距的,这样往往就不会去细看规格书了,所以这次的运气
    wuliangu 2025-01-21 00:15 300浏览
  •  万万没想到!科幻电影中的人形机器人,正在一步步走进我们人类的日常生活中来了。1月17日,乐聚将第100台全尺寸人形机器人交付北汽越野车,再次吹响了人形机器人疯狂进厂打工的号角。无独有尔,银河通用机器人作为一家成立不到两年时间的创业公司,在短短一年多时间内推出革命性的第一代产品Galbot G1,这是一款轮式、双臂、身体可折叠的人形机器人,得到了美团战投、经纬创投、IDG资本等众多投资方的认可。作为一家成立仅仅只有两年多时间的企业,智元机器人也把机器人从梦想带进了现实。2024年8月1
    刘旷 2025-01-21 11:15 633浏览
  •     IPC-2581是基于ODB++标准、结合PCB行业特点而指定的PCB加工文件规范。    IPC-2581旨在替代CAM350格式,成为PCB加工行业的新的工业规范。    有一些免费软件,可以查看(不可修改)IPC-2581数据文件。这些软件典型用途是工艺校核。    1. Vu2581        出品:Downstream     
    电子知识打边炉 2025-01-22 11:12 119浏览
  • 现在为止,我们已经完成了Purple Pi OH主板的串口调试和部分配件的连接,接下来,让我们趁热打铁,完成剩余配件的连接!注:配件连接前请断开主板所有供电,避免敏感电路损坏!1.1 耳机接口主板有一路OTMP 标准四节耳机座J6,具备进行音频输出及录音功能,接入耳机后声音将优先从耳机输出,如下图所示:1.21.2 相机接口MIPI CSI 接口如上图所示,支持OV5648 和OV8858 摄像头模组。接入摄像头模组后,使用系统相机软件打开相机拍照和录像,如下图所示:1.3 以太网接口主板有一路
    Industio_触觉智能 2025-01-20 11:04 192浏览
  • 高速先生成员--黄刚这不马上就要过年了嘛,高速先生就不打算给大家上难度了,整一篇简单但很实用的文章给大伙瞧瞧好了。相信这个标题一出来,尤其对于PCB设计工程师来说,心就立马凉了半截。他们辛辛苦苦进行PCB的过孔设计,高速先生居然说设计多大的过孔他们不关心!另外估计这时候就跳出很多“挑刺”的粉丝了哈,因为翻看很多以往的文章,高速先生都表达了过孔孔径对高速性能的影响是很大的哦!咋滴,今天居然说孔径不关心了?别,别急哈,听高速先生在这篇文章中娓娓道来。首先还是要对各位设计工程师的设计表示肯定,毕竟像我
    一博科技 2025-01-21 16:17 151浏览
  • 本文介绍瑞芯微开发板/主板Android配置APK默认开启性能模式方法,开启性能模式后,APK的CPU使用优先级会有所提高。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。源码修改修改源码根目录下文件device/rockchip/rk3562/package_performance.xml并添加以下内容,注意"+"号为添加内容,"com.tencent.mm"为AP
    Industio_触觉智能 2025-01-17 14:09 194浏览
  •  光伏及击穿,都可视之为 复合的逆过程,但是,复合、光伏与击穿,不单是进程的方向相反,偏置状态也不一样,复合的工况,是正偏,光伏是零偏,击穿与漂移则是反偏,光伏的能源是外来的,而击穿消耗的是结区自身和电源的能量,漂移的载流子是 客席载流子,须借外延层才能引入,客席载流子 不受反偏PN结的空乏区阻碍,能漂不能漂,只取决于反偏PN结是否处于外延层的「射程」范围,而穿通的成因,则是因耗尽层的过度扩张,致使跟 端子、外延层或其他空乏区 碰触,当耗尽层融通,耐压 (反向阻断能力) 即告彻底丧失,
    MrCU204 2025-01-17 11:30 209浏览
  • 临近春节,各方社交及应酬也变得多起来了,甚至一月份就排满了各式约见。有的是关系好的专业朋友的周末“恳谈会”,基本是关于2025年经济预判的话题,以及如何稳定工作等话题;但更多的预约是来自几个客户老板及副总裁们的见面,他们为今年的经济预判与企业发展焦虑而来。在聊天过程中,我发现今年的聊天有个很有意思的“点”,挺多人尤其关心我到底是怎么成长成现在的多领域风格的,还能掌握一些经济趋势的分析能力,到底学过哪些专业、在企业管过哪些具体事情?单单就这个一个月内,我就重复了数次“为什么”,再辅以我上次写的:《
    牛言喵语 2025-01-22 17:10 162浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦