推理芯片 - 电子工程专辑

推理芯片

美国防部拨款1860万美元：存算一体端侧AI推理芯片！

点击蓝字关注我们由普林斯顿大学教授共同创立的一家AI初创公司获得了1860万美元的国防部拨款，用于开发一种内存芯片，该芯片旨在提供更快、更高效的AI推理处理。AI技术公司EnCharge AI宣布与美国国防高级研究计划局（DARPA）支持的普林斯顿大学建立合作伙伴关系，共同开发“比以前想象的更高效”的处理器。DARPA的内存阵列优化处理技术（OPTIMA）是一个价值7800万美元的项目，用于开发可

SSDFans 2025-01-08 128浏览
2024HotChips｜CerebrasAI推理芯片为大模型提供新思路

芝能智芯出品在 Hot Chips 2024 大会上，Cerebras 展示了其在 AI 推理领域的最新进展，通过其晶圆规模引擎（Wafer-Scale Engine, WSE-3）芯片超越了现有的 AI 计算架构，例如 NVIDIA 的 H100 GPU。Cerebras 在推理性能、能效和扩展性方面取得的显著突破，通过采用大规模的片上内存（SRAM）来规避高带宽内存（HBM）的限制。Part

汽车电子设计 2024-09-12 621浏览
AI推理芯片竞赛，升级

知识酷Pro 👆学显示行业知识找小酷！第1681篇推文‍尽管Nvidia GPU在 AI 训练领域的主导地位仍然无可争议，但我们可能看到早期迹象表明，在 AI 推理方面，竞争对手正在向这家科技巨头靠拢，尤其是在能效方面。然而，Nvidia 新款Blackwell芯片的纯粹性能可能很难被击败。今天上午， ML Commons发布了其最新 AI 推理竞赛ML Perf Inference v4.1的

BOE知识酷 2024-09-04 434浏览
云天励飞董事长陈宁：看好万亿颗推理芯片蓝海市场

2024年作为大模型落地应用之年，千行百业的推理应用将迎来新的发展，这将是万亿颗芯片的大蓝海市场。近期大热的低空经济，陈宁判断AI亦大有可为。“未来3年后深圳上空会有10万架次无人机在飞行，而低空从一开始就只能通过AI来控制，不可能靠人。”作者 | 黄心怡昨日，云天励飞发布大模型边缘训推产品“深目”AI模盒，并与鹏城实验室、之江实验室、中国电子、华为、华润数科等单位成立“深目2.0”生态联盟。发布

科创板日报 2024-03-29 652浏览
专家访谈汇总：Groq“最快”AI推理芯片

大模型Groq推理芯片专家解读会议纪要Q：Groq的LPU和传统的GPU有哪些关键差异？在推理芯片市场上，Groq的LPU性能提升和成本情况如何？A：Groq的LPU实际上是一个针对AI算法设计的DSA（领域特定加速器），与典型的如谷歌TPU相似，其架构与英伟达的GPU有显著不同。它的设计并未脱离传统CMOS工艺，并采用了与传统内存相连的SM（StorageMemory）架构，而非使用新型存储器设

阿尔法工场研究院 2024-02-22 1226浏览
芯曜途发布适用于MEMS传感器阵列的近感AI推理芯片

近日，芯曜途科技发布了适用于MEMS传感器阵列的STN100近感AI推理芯片。芯曜途此次发布的STN100芯片，采用了创新架构设计，专为智能传感器设计，有望改变传统接口电路芯片的功能局限，推动传感行业的单芯片集成化和智能化。据悉，STN100的创新架构，使得传感器的原始信号能够在机器学习层面上直接进行数值处理，可实现完全隐私保护，超低延时推理及系统级低功耗。STN100通过直接对传感器信号流进行边

感知芯视界 2023-12-14 715浏览
产业丨AI推理芯片，下一个[群模共舞]的入场券

·聚焦:人工智能、芯片等行业欢迎各位客官关注、转发前言：生产大模型并不是终极目标，让它在各行各业中大展拳脚、发挥出实用价值才是最终追求。作者 | 方文三图片来源 | 网络基础层是地基，应用层是高度人工智能产业链主要分为三个层次：基础层、技术层和应用层。基础层包括AI芯片、智能传感器和云计算等，为人工智能提供数据和算力支持。在AI产业初期，基础层企业占比最大，达到83%，而技术层和应用层企业分

AI芯天下 2023-11-30 605浏览
芯报丨国内首创！云天励飞14nmChiplet大模型推理芯片重磅发布

聚焦:人工智能、芯片等行业欢迎各位客官关注、转发每日芯报1117期❶国内首创！云天励飞14nm Chiplet大模型推理芯片重磅发布11月15日，在高交会开幕式上，云天励飞重磅发布新一代AI芯片DeepEdge10。DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片，采用自主可控的国产工艺，内含国产RISC-V核，支持大模型推理部署。依托自研芯片DeepEdge10创新的D

AI芯天下 2023-11-17 729浏览
如何正确选择AI推理芯片？

来源：内容编译自semiengineering，谢谢。基于机器学习 (ML) 的系统开发方法采用了与计算机科学历史上使用的完全不同的编程风格。这种方法使用示例数据来训练模型，使机器能够学习如何执行任务。ML 训练是高度迭代的，每一条新的训练数据都会产生数万亿次操作。训练过程的迭代性质与实现高精度所需的非常大的训练数据集相结合，推动了对极高性能浮点处理的需求。大多数新模型根据使用的 GPU 加速卡数

FPGA开发圈 2022-01-10 1038浏览
三年两代AI推理芯片，燧原科技的底气是什么？

文︱郭紫文图︱燧原科技海量数据爆发，大数据与云计算进入发展快车道，对计算能力的需求持续提升，人工智能（AI）芯片已经成为加速产业智能化转型的硬科技。近年来，AI市场呈现爆发式增长态势，AI场景广泛落地。另一方面，AI云端市场中训练芯片和推理芯片的占比正在发生迁移，推理芯片比例逐渐提升。从IDC数据可以看出，预计到2025年，推理芯片已经占比达60.8%。“面对人工智能海量的云端推理应用，燧原科技正

TechSugar 2021-12-08 1324浏览

正在努力加载更多...

广告

今日新闻

热门文章排行

广告

最新评论更多>>

一般喜欢标榜“打破垄断”“国x领先”的都死的比较快。嘴比手厉害

56089689_... 评论文章 2025-01-07

砺芯慧感：量产薄膜铂电阻传感器，打破国外30年垄断
我这，原先V10.5跑的好好的代码，更新V11后，单片机初始化时就不断重启

vaov_3734... 评论文章 2025-01-06

FreeRTOSV11.0升级了多项重要功能，兼容V10版本

资料

文库

帖子

博文

在线研讨会

EE直播间

第三代功率半导体器件测试解决方案直播时间：03月06日 10:00

E聘热招职位