广告

先突破“内存墙”再来谈边缘AI吧

2018-07-11 19:04:48 Nitin Dahad 阅读:
法国研究机构CEA-Leti认为,突破“内存墙”的障碍,并推动新的架构方案,才能为快速成长的人工智能(AI)应用带来更高效率的运算性能…
广告

为快速成长的人工智能(artificial intelligence;AI)应用实现高效率的运算性能,必须解决“内存墙”(memory wall)的瓶颈,并推动新的架构解决方案;这是法国CEA Tech旗下技术研究机构Leti关注的重点领域。

Leti首席执行官Emmanuel Sabonnadiere在Leti年度创新会议上接受《EE Times》访问时表示,业界需要一种高度整合的整体途径,将AI从软件和云端移至边缘(edge)的嵌入式芯片。

Sabonnadiere说:“边缘确实需要一些创新,采用除了CMOS以外的不同架构,从结构上整合至系统,并从云端实现自主性——例如针对自动驾驶车,您需要云端尽可能地独立作业。”

他认为恩智浦(NXP)可望成为驱动在边缘实现更多运算的一项关键指标,因而针对高通(Qualcomm)并购恩智浦一案发表评论:“你觉得高通为什么要买下恩智浦?它是为了(边缘运算)的感测,而将数位置于感测之后。”
Emmanuel_Sabonnadiere_150_2
Emmanuel Sabonnadiere

为了解决运算架构典范,Sabonnadiere期望能在Leti与斯坦福大学(Stanford University)电气工程和计算机科学系教授Subhasish Mitra带领的团队合作中取得一些突破。Mitra的研究已经进展一段时间了,专注于为庞大资料和密集互连应用探索内存内处理(processing-in-memory)的新架构。这项研究获得了美国国防部先进研究计划局(DARPA)、国家科学基金会(NSF)、Semiconductor Research、STARnet SONIC和斯坦福大学SystemX联盟的成员公司共同资助。

Sabonnadiere谈到芯片验证时说:“我们深信这是解决‘超越摩尔定律’(more-than-Moore)挑战的前进方向,并且已经要求Mitra教授打造这一研究展示了。”

在会议上,Mitra表示,庞大的资料超级风暴正袭卷而来,而其运算需求远超过处理能力,因此必须使用支持先进3D整合的运算纳米系统架构。

Mitra说:“数据必须经过处理才能创造决策,但目前还有太多我们无法处理的‘暗黑’数据。以Facebook为例,它必须采用256个Tesla P100 GPU,才能在1小时训练好ImageNet,这在以前大约需要几天的时间。”

提高运算性能的选择

那么目前提高运算性能的选择是什么?Mitra说,其一是要有一个更好的逻辑开关——但这方面的实验展示并不多。第二种是使用设计“技巧”,例如多核心、加速器或电源管理技巧。但他也补充说,可用的技巧并不多,而且当实施这些技巧而使设计变得更复杂,甚至会使验证变得更困难。另一个挑战则是Mitra所谓的“内存墙”。

Mitra说:“各种类型的庞大数据应用中,一个共同点就在于内存墙——系统需要更有力地存取内存。”

Mitra说,这就是专注于内存的运算概念所在,也是与Leti合作的关注重点——Sabonnadiere希望将在这方面取得突破。它使用先进3D整合使得运算更接近于数据。该芯片采用碳纳米管(CNT),因为Mitra表示它们是唯一可以超越CMOS和电阻式随机存取内存(RRAM)的技术。
Subhasish_Mitra_150
Subhasish Mitra

RRAM和碳纳米管彼此垂直建构,形成具有逻辑层和内存层交错的密集3D计算机架构。在这些分层之间插入超密走线,应该就能以这种3D架构解决通讯的瓶颈。

Mitra将这个问题比喻为从旧金山(San Francisco)到加州伯克利(Berkeley)之间的交通挑战——由于只有三座桥梁可以穿越两个都市,因而造成了交通堵塞。然而,如果打造更多的桥梁——或者在他提出的3D架构情况下,就能够解决多纳米级交错层间过孔的瓶颈。

内存和软件2.0的突破

Leti首席科学家Barbara De Salvo表示,业界并未充份重视新兴内存技术,这些技术通常仍被视为利基技术。
Barbara_de_salvo_150
Barbara De Salvo

De Salvo说:“在内存领域,业界仍持续采用传统技术。而像电阻式RAM、磁阻式RAM和相变内存等新兴技术仍未被充份利用。但它可望在实现新型架构方面带来巨大突破。”De Salvo并补充说,在未来几年,在软件中使用深度学习和AI也可能中在运算方面取得重大突破。

她说:“我指的是一个使用深度学习和机器学习来开发软件的新概念。软件是一个系统中最昂贵的部份之一。透过使用深度学习产生软件,以前需要花六个月的一些任务现在可以只需要几天的时间。”

编译:Susan Hong

本文授权编译自EE Times,版权所有,谢绝转载

EETC wechat barcode


关注最前沿的电子设计资讯,请关注“电子工程专辑微信公众号”。

  • 何时出dd6内存
  • 厉害
本文为EET电子工程专辑 原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
Nitin Dahad
EE Times欧洲记者。Nitin Dahad是EE Times的欧洲记者。
  • 2025年全球将启动18个新的晶圆厂项目建设,中国有5个 半导体行业正迎来一个新的建设高峰期,SEMI预测,2025年,全球范围内将有18个新的晶圆厂项目开始建设,其中15座为12英寸晶圆厂,3座为8英寸晶圆厂,大部分预计将于 2026 年至 2027 年开始运营......
  • TCL正式发布“世界上第一款模块化人工智能伴侣机器人” 这款机器人头上的摄像头可以录制视频或使用人工智能识别物体,虽然该机器人的动作仅限于挥动细小的手臂和眨动动画眼睛,但它可以与一把小型电动椅子配对,自动在家中导航。
  • 四大合作揭秘新兴AI芯片设计模型 IP供应商、芯片设计服务提供商和AI专家在以AI为中心的设计价值链中的地位正变得更加突出。本文给出了四个设计用例,强调了服务于AI应用的芯片设计模型的重新调整。
  • 迎接硅光子时代:开启超高速数据传输新篇章 随着AI和量子计算等前沿领域的快速发展,GlobalFoundries、Tower Semiconductor以及多家公司正积极迎接硅光子技术带来的新机遇。这项新兴技术有望为二线代工厂带来竞争优势,并推动全球芯片制造技术的多样化发展。
  • AI需求强劲增长,富士康第四季度营收超预期 富士康在一份声明中说,作为苹果公司最大的 iPhone 组装商,富士康第四季度营收增长 15.2%,达到 2.13 万亿新台币(647.2 亿美元),比LSEG SmartEstimate预测的2.1万亿新台币还要高......
  • 支付9500万美元,苹果和解Siri语音助手隐私窃听集体诉讼 此次和解是苹果在隐私保护方面做出了重大让步,苹果将永久删除2019年10月之前获取的所有个人音频记录,并确保未来不再发生类似事件......
  • 为什么翻新机的价格在上涨? • 目前,iPhone在翻新市场中是最热门的商品,并将长期主导着翻新机的平均销售价格。 • 全球翻新机市场持续向高端化发展,其平均销售价格(ASP)现已超过新手机。 • 新兴市场是增长的最大驱动力,消费者对高端旗舰产品有着迫切需求。 • 由于市场固化和供应链的一些问题限制推高中国、东南亚和非洲等大市场的价格。 • 2024年,这些翻新机平均销售价格将首次超过新手机。
  • 2024三季度全球扫地机器人市场出货 从全球厂商竞争来看,三季度凭借多个新品发布,石头科技市场份额提升至16.4%,连续两季度排名全球第一……
  •  摩尔斯微电子推出MM8108:全球体积 最新Wi-Fi HaLow片上系统(SoC)为物联网的性能、效率、安全性与多功能性设立新标准,配套USB网关,可轻松实现Wi-Fi HaLow在新建及现有Wi-Fi基础设施中的快速稳健集成
  • 移远通信再扩短距离通信模组版图:Wi 其中包含Wi-Fi 7和蓝牙5.4 模组FME170Q-865、Wi-Fi 6和蓝牙5.4 模组FCS962N-LP、Wi-Fi 6和蓝牙5.3模组FCU865R 、独立Wi-Fi和蓝牙模组FGM840R、高功率Wi-Fi HaLow模组FGH100M-H……
  • 20250109买卖芯片找老王(优势物料,低于市场价) 芯片超人现有1600平米芯片智能仓储基地,现货库存型号1000+,品牌高达100种,5000万颗现货库存芯片,总重量10吨,库存价值高达1亿+。同时,芯片超人在深圳设有独立实验室,每颗物料均安排QC质
  • 亚化咨询推出《中国半导体大硅片年度报告2024》,欢迎索取目录! 来源:《中国半导体大硅片年度报告2024》2016 年至 2023 年间,全球半导体硅片(不含 SOI)销售额从 72.09 亿美元上升至121.29 亿美元,年均复合增长率达 7.72%。2016
  • 曝三星将推出三折叠手机 1月7日,据韩媒 sisajournal-e 消息,三星计划 2025 年下半年推出三折叠手机,采用 G 形双内折设计,完全展开后尺寸为 12.4 英寸。据称,有别于华为的 S 形折叠屏方式(In&O
  • 奥康皮鞋:终止收购芯片公司! 1月8日消息,奥康国际发布公告称,终止发行股份购买资产,公司股票将于1月8日开市起复牌。至此,奥康国际谋划的跨界收购芯片公司事项告一段落。奥康国际在公告中介绍,公司于2024年12月24日披露了《关于
  • 联想展示卷轴屏PC,可多获取50%屏幕 近日,联想在CES 2025展会上展示了全球首款卷轴屏PC——ThinkBook Plus Gen 6。据悉,ThinkBook Plus Gen 6卷轴屏AI PC的核心魅力在于其独有的可卷曲显示屏
  • 590亿CPU创企,拟出售! 据知情人士透露,软银集团及其持有多数股权的Arm正在探索收购Ampere Computing的交易。匿名知情人士表示,甲骨文支持的半导体设计公司Ampere在探索战略选择时引起了Arm的收购兴趣。不过
  • 宝马新时代座舱应用MiniLED 在CES2025上,宝马发布了BMW首创全景iDrive与新世代操作系统X,据了解,其中控屏为Mini LED背光屏幕,宝马表示,这一创新不仅重新定义了汽车人机交互的标准。除了宝马之外,CES 202
  • 天马创新显示技术闪耀CES2025,引领未来科技潮流 当地时间2025年1月7日,全球备受期待的技术盛宴——国际消费电子展(CES 2025)在美国拉斯维加斯盛大开幕。作为显示领域的领军企业,天马携一系列前沿创新技术和最新智能座舱解决方案惊艳登场,带来手
  • TCL华星携印刷OLED等技术,亮相全球 ‍‍美国拉斯维加斯当地时间1月7日,第58届国际消费类电子产品展(CES2025)在拉斯维加斯开幕。本届展会,TCL华星携涵盖电视、车载、显示器、笔电、平板、手机、VR等显示领域的多款重磅展品亮相,其
  • 包含9个项目表,4张项目地图及5份年度报告!亚化咨询半导体数据全家桶/年报开启订阅 亚化咨询重磅推出《中国半导体材料、晶圆厂、封测项目及设备中标、进口数据全家桶》。本数据库月度更新,以EXCEL表格的形式每月发送到客户指定邮箱。中国大陆半导体大硅片项目表(月度更新)中国大陆再生晶圆项
广告
热门推荐
广告
广告
广告
EE直播间
在线研讨会
广告
广告
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了