今天,全球权威AI基准评测MLPerf公布了最新AI基准测试结果(MLPerf Inference v2.1),MLPerf由图灵奖得主大卫·帕特森(David Patterson)联合谷歌、斯坦福大学、哈佛大学等共同成立,是国际上最权威、最有影响力的基准测试之一。壁仞科技首次参与MLPerf,即以最新发布的通用GPU芯片BR104,拿下数据中心推理评测中自然语言理解(BERT模型)和图像分类(ResNet50模型)两类基准评测“available”(可售产品类别)单卡性能全球第一的优异成绩,其中BR104在BERT模型下达到了英伟达A100单卡性能的1.58倍。
为及时跟踪和评测迅速发展的AI计算需求与性能,MLPerf每年组织2次AI测试。其数据中心场景的评测,综合考察参与厂商的硬件系统和软件优化能力,而此次BR104参加的“Closed Division”(固定任务)类别,则要求参评者在完全一致的模型和环境下进行性能结果的提交,因此这一类别下的结果被认为是全球数据中心产业最具参考价值的AI性能基准测试结果。
与此同时,在BERT模型下,BR104还拿下了4卡整机、8卡整机性能全球第一的成绩,算力能效比也远远领先于其他厂商,达到英伟达A100算力能效比的2.11倍。BERT模型是目前自然语言理解领域应用最广泛的模型之一,也是相关产业应用中最重要的模型。
BR104首次参评MLPerf,就在图像分类和自然语言理解领域证明了其全球第一的AI算力,离不开壁仞科技原创芯片硬件架构与BIRENSUPA软件栈的创新设计。壁仞科技在高性能算子、算子融合、图融合、变长序列合并、端到端异步执行、数据读取和计算负载均衡、混合精度计算等方面进行了深度优化。
壁仞科技董事长、创始人、CEO张文表示,ResNet50模型和BERT模型是目前产业客户最重视的AI模型,此次MLPerf最新发布的评测结果,直接证明了BR100系列通用GPU芯片的落地应用能力。目前,BR104已经开始了大规模的客户送测和适配,性能更强大的BR100也已启动落地应用,我们对BR100系列未来的应用前景充满信心。
关于壁仞科技
壁仞科技创立于2019年,致力于研发原创性的通用计算体系,建立高效的软硬件平台,同时在智能计算领域提供一体化的解决方案。从发展路径上,壁仞科技将首先聚焦云端通用智能计算,逐步在人工智能训练和推理、图形渲染等多个领域赶超现有解决方案,实现国产高端通用智能计算芯片的突破。截至目前,壁仞科技已完成B轮融资,总融资额超50亿元人民币,屡屡刷新半导体领域融资速度及融资规模纪录,成为成长势头最为迅猛的“独角兽”企业。首款国产高端通用GPU芯片BR100系列已正式发布,创全球算力纪录,荣膺2022世界人工智能大会“镇馆之宝”、最高奖项“SAIL大奖”。