新型AI芯片响应速度比英伟达快十倍,黄仁勋哭晕厕所!但国产AI芯片看到曙光!

原创 飙叔科技洞察 2024-02-22 18:11

最近科技圈热闹异常,可谓是一浪更比一浪高的啊。
首先是OpenAI 推出的全新生成式人工智能模型Sora,是这几天全网讨论最多的话题了。说Sora将改变世界,马斯克、杨立昆、贾扬清、Jim Fan、谢赛宁、周鸿祎、李志飞等科技人物纷纷下场评论;其中红衣主教周鸿祎说:“AGI实现将从10年缩短到1年”!最具代表性了!
但飙叔更关注的是Sora代表的人工智能爆火背后的AI算力;自从前两年ChatGPT爆火,从而带动了AI算力需求的热潮,受益最大的无疑是黄仁勋的英伟达了。在此热潮之下,英伟达AI芯片供不应求、大规模短缺,可谓赚得盆满钵满。但最近有两个AI芯片事件,可能意味着英伟达即将遭遇强力挑战,或许危险真的来临了!
一、Groq芯片,响应速度比英伟达快十倍
就在全世界还沉浸在Sora带来的视觉震撼时,一个初创芯片企业Groq给全球AI芯片领域投下了一个“王炸”产品。
2月20日,初创公司Groq开放了免费试用其最新研制的AI芯片,初试芯片响应速度震撼了业界。搭载Groq芯片的大模型回复用户的速度极快,达到普通人打字速度的75倍,比英伟达芯片的响应速度快10倍以上。

专业测评显示,Groq芯片搭配Llama二代模型可以达到每秒近500个token,如果搭配其他小厂商的模型甚至能达到每秒700token的文字处理速度。而根据公开数据测算,英伟达旗下芯片驱动的GPT大模型的文字生成速度大约为每秒40个token。
评测出来的速度足以让整个AI芯片圈震撼得目瞪口呆的了。但王炸不仅仅在速度,更重要的是Groq芯片的制程工艺和相关配置。
根据Groq公司官网介绍,其芯片为LPU(语言处理单元)芯片,Groq公司也是全球范围内首个创造了LPU(语言处理单元)技术路线的芯片厂商,而英伟达采用的是主流的GPU(图形处理单元)路线。
LPU架构是Groq公司专为AI推理所设计的,线路极其精简,也没有GPU需要的高性能且昂贵的内存结构是专为AI计算提供高确定性的低延迟和高性能的芯片!
值得一提的是,不需要高性能而昂贵的内存,也就是不需要HBM。使用的是SRAM即静态随机存取存储器。SRAM是用触发器来存储信息,不需要对数据进行刷新,也可以同时送“行、列”地址。因此SRAM的运行速度就有了显著的优势。
另外,LPU还有一个巨大的不同Groq的芯片采用14nm制程,不需要动不动就5nm制程、3nm制程;同时也不需要使用昂贵的先进封装技术。
这是不是为国产芯片及半导体产业,尤其是国产AI芯片厂商们开辟了一条全新国产算力之路呢?在飙叔看来,至少给国产芯片信心,半导体制程并不是决定一切的,很多时候芯片设计思想和方法也可以发挥巨大作用。
回到LPU对英伟达的影响,首先我们得知道Groq公司是一家专门的芯片设计公司,其成立于2016年,总部位于美国加利福尼亚,创始团队中有很多人都参与过谷歌TPU项目。其中,Groq创始人兼CEO乔纳森·罗斯(Jonathan Ross)曾设计并制作出了第一代谷歌TPU芯片的核心元件,TPU 20%的研发项目都由他完成。因此,Groq公司直接对标的就是英伟达,而此次LPU产品对于英伟达GPU来说,可以说是釜底抽薪了;不客气得说,一旦LPU产品线成熟对于英伟达来说绝对是迄今最为强劲的竞争对手。
何况英伟达不仅要面对Groq这些初创公司,各大巨头们起义之声也是此起彼伏。
二、微软入局 DPU,群雄并起
据 the information 透露,科技巨头微软正在开发一种新的网卡芯片,替代英伟达ConnectX SmartNIC智能网卡产品,以确保 AI 模型数据可以在微软云服务器之间快速传输。

微软方面确认了此消息。实际上,作为英伟达GPU(图形处理器)的最大客户之一,微软事件是一个重要“信号”。除了省成本之外,微软还希望新网卡能够提高其英伟达芯片服务器的性能,将有助于使用微软云的OpenAI 研发更多 AI 大模型。

对于微软来说,除了自身本来的团队以外,在去年收购的 Fungible,从而为进入AI芯片市场做好了准备。微软在收购 Fungible 的公告中说,Fungible 一家可组合基础设施提供商,旨在通过高效、低功耗的数据处理单元 ( DPU ) 加速数据中心的网络和存储性能。从 Fungible 的背景看来,微软收购对其 DPU 业务来说无疑是如虎添翼。

不止是微软。谷歌于2023年底发布了其新的人工智能模式——Gemini,认为其已经超越了Openai的ChatGPT4,已经成为业界最先进的模型。其使用的AI芯片是谷歌自己研发的——TPU

TPU正式名称是“张量处理单元”(Tensor Processing Units,简称TPU),其是谷歌花了近十年时间自己开发出来的人工智能芯片。

另外,AMD、英特尔、Meta、亚马逊等巨头们也是蠢蠢欲动!更让英伟达颤抖的是奥特曼宣称要筹集7万亿美元用于搭建全球人工智能基础设施;孙正义则向全世界要1000亿美元,用于创建一家新的芯片公司。

这些全球科技巨头们,不同于新创公司,他们几乎都是英伟达的大客户,不仅每年购买了英伟达大部分的GPU;而且这些巨头们本身资金、技术、各种资源触手可得,在技术路线与产品方向确定的情况下,巨头们“独立”只是时间早晚问题,没有意外。

因此,前面有初创公司不断的拱火;后方各大客户大举“独立的起义旗帜”;对英伟达来说,现在到了“最危险时刻”也就不为过了。

三、国产AI芯片的曙光

如上所述,Groq用14nm工艺做出的大模型推理芯片,响应速度竟然比英伟达快十倍,直接吊打了英伟达的H100。

这对国产AI芯片产业来说,从思路和方向上开辟了一条全新的发展道路;让国产芯片在受到美国极限打压之下看到了曙光——可以不需要EUV光刻机,摆脱所谓先进制程的限制,也就是说用现有光刻设备及其配套完全可以生产出国产高性能的人工智能芯片。

当然在飙叔看来,也给国产芯片注入一剂强心剂,半导体制程并不是决定一切的,很多时候芯片设计思想和方法也可以弯道超车!

而各巨头们纷纷进入人工智能芯片参与竞争,对于国产芯片厂商来说同样不是什么坏消息。从现占据市场主导地位的英伟达来说,在全球市场越激烈时,其对于中国市场的依赖就会越强,也变相强迫其更为重视中国市场的需求;而巨头们投入巨资研发的TPU也好,或是其他类型AI芯片也罢,也都可以为国产AI芯片厂商们提供技术路线以及产品方向的参考及其借鉴意义。

当然,无论如何“打铁还需自身硬”,加大投入,加快国产AI芯片的研发始终是根本;只有国产AI芯片具备足够的实力,也才能为国产算力提供强大的后盾;也才能真正打破美国阻扰中国获取先进算力的计划!

飙叔感谢您花时间关注与分享,感谢在我的人生道路中多了这么多志同道合的朋友,一起关注国产光刻机、国产芯片、国产半导体艰难突破之路;一起分享华为海思、华为鸿蒙及华为手机等华为产业为代表的中国ICT产业崛起的点点滴滴;从此生活变得不再孤单,不再无聊!

勾搭飙叔,请扫码




飙叔科技洞察 一起关注国产光刻机、国产芯片、国产半导体艰难突破之路;一起分享华为海思、华为鸿蒙等华为产业点点滴滴!
评论
  • 美国加州CEC能效跟DOE能效有什么区别?CEC/DOE是什么关系?美国加州CEC能效跟DOE能效有什么区别?CEC/DOE是什么关系?‌美国加州CEC能效认证与美国DOE能效认证在多个方面存在显著差异‌。认证范围和适用地区‌CEC能效认证‌:仅适用于在加利福尼亚州销售的电器产品。CEC认证的范围包括制冷设备、房间空调、中央空调、便携式空调、加热器、热水器、游泳池加热器、卫浴配件、光源、应急灯具、交通信号模块、灯具、洗碗机、洗衣机、干衣机、烹饪器具、电机和压缩机、变压器、外置电源、消费类电子设备
    张工nx808593 2025-02-27 18:04 128浏览
  •           近日受某专业机构邀请,参加了官方举办的《广东省科技创新条例》宣讲会。在与会之前,作为一名技术工作者一直认为技术的法例都是保密和侵权方面的,而潜意识中感觉法律有束缚创新工作的进行可能。通过一个上午学习新法,对广东省的科技创新有了新的认识。广东是改革的前沿阵地,是科技创新的沃土,企业是创新的主要个体。《广东省科技创新条例》是广东省为促进科技创新、推动高质量发展而制定的地方性法规,主要内容包括: 总则:明确立法目
    广州铁金刚 2025-02-28 10:14 111浏览
  • 在物联网领域中,无线射频技术作为设备间通信的核心手段,已深度渗透工业自动化、智慧城市及智能家居等多元场景。然而,随着物联网设备接入规模的不断扩大,如何降低运维成本,提升通信数据的传输速度和响应时间,实现更广泛、更稳定的覆盖已成为当前亟待解决的系统性难题。SoC无线收发模块-RFM25A12在此背景下,华普微创新推出了一款高性能、远距离与高性价比的Sub-GHz无线SoC收发模块RFM25A12,旨在提升射频性能以满足行业中日益增长与复杂的设备互联需求。值得一提的是,RFM25A12还支持Wi-S
    华普微HOPERF 2025-02-28 09:06 166浏览
  • 应用趋势与客户需求,AI PC的未来展望随着人工智能(AI)技术的日益成熟,AI PC(人工智能个人电脑)逐渐成为消费者和企业工作中的重要工具。这类产品集成了最新的AI处理器,如NPU、CPU和GPU,并具备许多智能化功能,为用户带来更高效且直观的操作体验。AI PC的目标是提升工作和日常生活的效率,通过深度学习与自然语言处理等技术,实现更流畅的多任务处理、实时翻译、语音助手、图像生成等功能,满足现代用户对生产力和娱乐的双重需求。随着各行各业对数字转型需求的增长,AI PC也开始在各个领域中显示
    百佳泰测试实验室 2025-02-27 14:08 267浏览
  • 在2024年的科技征程中,具身智能的发展已成为全球关注的焦点。从实验室到现实应用,这一领域正以前所未有的速度推进,改写着人类与机器的互动边界。这一年,我们见证了具身智能技术的突破与变革,它不仅落地各行各业,带来新的机遇,更在深刻影响着我们的生活方式和思维方式。随着相关技术的飞速发展,具身智能不再仅仅是一个技术概念,更像是一把神奇的钥匙。身后的众多行业,无论愿意与否,都像是被卷入一场伟大变革浪潮中的船只,注定要被这股汹涌的力量重塑航向。01为什么是具身智能?为什么在中国?最近,中国具身智能行业的进
    艾迈斯欧司朗 2025-02-28 15:45 243浏览
  • 构建巨量的驾驶场景时,测试ADAS和AD系统面临着巨大挑战,如传统的实验设计(Design of Experiments, DoE)方法难以有效覆盖识别驾驶边缘场景案例,但这些边缘案例恰恰是进一步提升自动驾驶系统性能的关键。一、传统解决方案:静态DoE标准的DoE方案旨在系统性地探索场景的参数空间,从而确保能够实现完全的测试覆盖范围。但在边缘案例,比如暴露在潜在安全风险的场景或是ADAS系统性能极限场景时,DoE方案通常会失效,让我们看一些常见的DoE方案:1、网格搜索法(Grid)实现原理:将
    康谋 2025-02-27 10:00 258浏览
  • RGB灯光无法同步?细致的动态光效设定反而成为产品客诉来源!随着科技的进步和消费者需求变化,电脑接口设备单一功能性已无法满足市场需求,因此在产品上增加「动态光效」的形式便应运而生,藉此吸引消费者目光。这种RGB灯光效果,不仅能增强电脑周边产品的视觉吸引力,还能为用户提供个性化的体验,展现独特自我风格。如今,笔记本电脑、键盘、鼠标、鼠标垫、耳机、显示器等多种电脑接口设备多数已配备动态光效。这些设备的灯光效果会随着音乐节奏、游戏情节或使用者的设置而变化。想象一个画面,当一名游戏玩家,按下电源开关,整
    百佳泰测试实验室 2025-02-27 14:15 140浏览
  • 请移步 gitee 仓库 https://gitee.com/Newcapec_cn/LiteOS-M_V5.0.2-Release_STM32F103_CubeMX/blob/main/Docs/%E5%9F%BA%E4%BA%8ESTM32F103RCT6%E7%A7%BB%E6%A4%8DLiteOS-M-V5.0.2-Release.md基于STM32F103RCT6移植LiteOS-M-V5.0.2-Release下载源码kernel_liteos_m: OpenHarmon
    逮到一只程序猿 2025-02-27 08:56 204浏览
  • 振动样品磁强计是一种用于测量材料磁性的精密仪器,广泛应用于科研、工业检测等领域。然而,其测量准确度会受到多种因素的影响,下面我们将逐一分析这些因素。一、温度因素温度是影响振动样品磁强计测量准确度的重要因素之一。随着温度的变化,材料的磁性也会发生变化,从而影响测量结果的准确性。因此,在进行磁性测量时,应确保恒温环境,以减少温度波动对测量结果的影响。二、样品制备样品的制备过程同样会影响振动样品磁强计的测量准确度。样品的形状、尺寸和表面处理等因素都会对测量结果产生影响。为了确保测量准确度,应严格按照规
    锦正茂科技 2025-02-28 14:05 154浏览
  • 更多生命体征指标风靡的背后都只有一个原因:更多人将健康排在人生第一顺位!“AGEs,也就是晚期糖基化终末产物,英文名Advanced Glycation End-products,是存在于我们体内的一种代谢产物” 艾迈斯欧司朗亚太区健康监测高级市场经理王亚琴说道,“相信业内的朋友都会有关注,最近该指标的热度很高,它可以用来评估人的生活方式是否健康。”据悉,AGEs是可穿戴健康监测领域的一个“萌新”指标,近来备受关注。如果站在学术角度来理解它,那么AGEs是在非酶促条件下,蛋白质、氨基酸
    艾迈斯欧司朗 2025-02-27 14:50 424浏览
  • 一、VSM的基本原理震动样品磁强计(Vibrating Sample Magnetometer,简称VSM)是一种灵敏且高效的磁性测量仪器。其基本工作原理是利用震动样品在探测线圈中引起的变化磁场来产生感应电压,这个感应电压与样品的磁矩成正比。因此,通过测量这个感应电压,我们就能够精确地确定样品的磁矩。在VSM中,被测量的样品通常被固定在一个震动头上,并以一定的频率和振幅震动。这种震动在探测线圈中引起了变化的磁通量,从而产生了一个交流电信号。这个信号的幅度和样品的磁矩有着直接的关系。因此,通过仔细
    锦正茂科技 2025-02-28 13:30 108浏览
  • Matter 协议,原名 CHIP(Connected Home over IP),是由苹果、谷歌、亚马逊和三星等科技巨头联合ZigBee联盟(现连接标准联盟CSA)共同推出的一套基于IP协议的智能家居连接标准,旨在打破智能家居设备之间的 “语言障碍”,实现真正的互联互通。然而,目标与现实之间总有落差,前期阶段的Matter 协议由于设备支持类型有限、设备生态协同滞后以及设备通信协议割裂等原因,并未能彻底消除智能家居中的“设备孤岛”现象,但随着2025年的到来,这些现象都将得到完美的解决。近期,
    华普微HOPERF 2025-02-27 10:32 241浏览
  •         近日,广电计量在聚焦离子束(FIB)领域编写的专业著作《聚焦离子束:失效分析》正式出版,填补了国内聚焦离子束领域实践性专业书籍的空白,为该领域的技术发展与知识传播提供了重要助力。         随着芯片技术不断发展,芯片的集成度越来越高,结构也日益复杂。这使得传统的失效分析方法面临巨大挑战。FIB技术的出现,为芯片失效分析带来了新的解决方案。它能够在纳米尺度上对芯片进行精确加工和分析。当芯
    广电计量 2025-02-28 09:15 141浏览
  • 1,微软下载免费Visual Studio Code2,安装C/C++插件,如果无法直接点击下载, 可以选择手动install from VSIX:ms-vscode.cpptools-1.23.6@win32-x64.vsix3,安装C/C++编译器MniGW (MinGW在 Windows 环境下提供类似于 Unix/Linux 环境下的开发工具,使开发者能够轻松地在 Windows 上编写和编译 C、C++ 等程序.)4,C/C++插件扩展设置中添加Include Path 5,
    黎查 2025-02-28 14:39 151浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦