大模型催生算力需求爆发式增长训推一体机将迎应用元年

原创 科创板日报 2023-11-24 17:47

云从科技、云天励飞、中软国际、软通动力等上市公司纷纷在加强与算力相关硬件产品,为增加算力供应提供支持;目前训推一体机的价格约在三四百万的范围内。在中档旗舰训练部分,报价大致在一百万以下。


记者 | 黄心怡

随着ChatGPT带来的大模型热潮成为科技行业的C位担当,市场上对算力需求也面临爆发式增长。有AI产业链人士对《科创板日报》表示,百度、腾讯、讯飞等纷纷四处搜罗算力资源,但要给这些头部企业供应算力,依然较为紧张。

云从科技、云天励飞、中软国际、软通动力等上市公司则纷纷加强布局与算力相关的硬件产品,为增加算力供应提供支持。

其中,训推一体机成为了资本市场的焦点之一。云从科技相关负责人对《科创板日报》记者表示,目前训推一体机的价格大约在三四百万的范围内。在中档旗舰训练部分,报价大致在一百万以下。

总体而言,从今年试点落地到明年,我们预计将迎来市场爆发。但需要注意的是,市场的爆发也伴随一些风险因素,其中一个关键点是要确保算力的生产跟得上市场需求。”

训推一体机的价格处于百万级别

今年7月,华为携手伙伴联合发布昇腾AI大模型训推一体化解决方案,加速大模型在各行业应用落地,其中,云从科技、云天励飞、科大讯飞、智谱AI、达观数据、面壁智能等位列合作伙伴。

云从科技相关负责人告诉《科创板日报》记者,与华为的合作的方式是共同打造产品。华为的代工厂会将芯片与云从的大模型集成,然后共同推广给客户。云从在这个合作中不仅卖产品,还会提供其他应用开发相关的服务。整个市场空间不同于以往的分成模式,而是通过联合推广的方式,共同打造产品,并由华为各地销售团队一起推广。

“云从在过去的客户体系中有自己的优势,特别是在To B领域,包括金融、交通、治理等传统领域,以及最近拓展的制造和能源服务领域。通过结合云从的行业特点和华为的To B面向客户的深耕经验,共同推广和销售生成一体机。整个市场上,合作方各自发挥优势,联合推动产品上市,不存在所谓的分成模式。”

据了解,云从与华为合作的一体机产品主要分为两类,包括“训推一体机”和面向推理需求的一体机。

“对于一体机,至少分为三个不同的价格档次。这仅仅是针对单台设备,不包括客户有其他多台设备或集群的情况。关于训推一体机,我们的价格大致处于百万级别,高端机大约在三四百万元的范围内。由于不同客户的需求和数据负载不同,因此在配置和报价方面也可能存在差异:在中档旗舰训练部分,报价大致在一百万元以下;与其他一些厂商的一体机相比,价格更低的产品,报价大约在30万元左右。”

在一些边缘场景中,有时可能并不需要GPU,而是采用被称之为"盒子"的设备,“这类需求价格更为经济,可能更为广泛,会涉及到一系列的产品,通过我们的生态系统,提供鼠标、一体机、盒子等一整套的产品,价格在几万块钱的范围内。我们会根据不同的层级在市场上展开相应的布局。”

对于后续订单情况,云从科技方面称,第四季度已经有一些在谈订单。“而明年的整体业务体量,因为当前是与伙伴一起在推的,短期内还没有明确的放量,但整个市场空间还是比较乐观的。

明年有望迎来市场爆发 产能仍受限

对于整体的市场需求,云从科技相关负责人认为,一方面对于国产信创需求的增加和对合规、私有化部署的重视,二是对数据要素和基于大模型的应用侧变化的重视。明年被强调为应用的元年,预计将涌现更多的应用场景,市场规模庞大,尤其在IT部分的升级和场景需求明确的私有化部署方面,将带来巨大的市场机会。”

在市场空间方面,云从科技计划在整个市场中占据至少10%以上的份额,并通过与华为的渠道合作来实现。“具体的数字和量化数据还在与伙伴一起深入研究和细分,将在未来明确。总体而言,从今年开始试点落地到明年,我们预计将迎来市场爆发。但需要注意的是,市场的爆发也伴随风险因素,其中一个关键点是要确保算力的生产跟得上市场需求。”

目前,云从科技正与华为探讨产能问题,以确保能够满足市场需求。“在推广方面,我们首先会完成典型新客户的落地,然后从总部向下逐级推广至各个分支机构。以电力行业为例,涉及到各个省份的网公司、电厂、石油化工企业等,总计超过5000家。通过这样的场景推广,我们有望覆盖更广泛的市场份额。”

除了云从科技外,中软国际、云天励飞等也都纷纷入局算力一体化产品。中软国际发布公告称,与华鲲振宇签署全面战略合作协议,在大模型应用领域,双方将面向金融、制造等行业,联合推出基于模型实验室的昇腾训推一体机产品,提供开箱即用服务;面向政府市场,联合推出JointPilot“四问(问数、问视、问策、问服)”系列大模型一体机。

云天励飞方面对《科创板日报》记者表示,公司于2015年起就与华为形成合作关系,作为昇腾万里伙伴计划的成员,前期已基于昇腾AI基础软硬件平台,推出一系列产品及解决方案,包括动态人像系统深目,多维大数据分析系统深海,视频结构化系统深萃,以及AI算法服务平台深智等。

据悉,云天励飞联合华为推出了大模型训推一体化产品——云天天书大模型训推一体机,其内置了自主研发的天书千亿级大模型。

该一体机通过与华为昇腾910芯片硬件加速平台在算子加速库及工具链等方面的优化,采用全国产化的大模型和硬件计算平台,集成“开箱即用”系列训推工具,能满足面向多业务场景的大模型高并发高能效处理、业务快速上线的需求。此外,也支持用户进行二次开发和敏捷部署,满足了用户个性化和灵活的使用需求。

此外,智谱AI与昇腾合作的天智ChatGLM训推一体机,也已经通过华鲲振宇等渠道进行组装和销售。相关产业链人士告诉《科创板日报》记者,智谱大模型的优势在于语言领域,其一体机主要的应用行业包括电商、金融、保险等

“天智ChatGLM训推一体机的优势在于,支持中英双文的流畅对话,可以用于电商的智能客服等场景。在报价上,根据卡数的不同,从几十万到上百万不等。”


基于华为鲲鹏+昇腾产业生态,神州数码则打造了神州鲲泰系列产品,推出了神州鲲泰问学一体机。

神州数码相关负责人向《科创板日报》介绍,2022年,神州数码基于与昇腾的深度合作,推出神州鲲泰 KunTai AT200中心训练服务器序列、神州鲲泰 KunTai AI200整体推理服务器系列和神州鲲泰 KunTai AE200的边缘服务器系列等三个系列产品。目前,结合神州问学Gen-AI企业落地应用最佳实践,正是强化“昇腾产业生态”的投入与布局,致力于打造人工智能全栈产品和技术解决方案。



推荐阅读






科创板日报 国内首个专注科创板、创投及TMT等领域的新锐媒体,致力于打造领先、专业、权威的科创信息服务平台。
评论
  • 前言近年来,随着汽车工业的快速发展,尤其是新能源汽车与智能汽车领域的崛起,汽车安全标准和认证要求日益严格,应用范围愈加广泛。ISO 26262和ISO 21448作为两个重要的汽车安全标准,它们在“系统安全”中扮演的角色各自不同,但又有一定交集。在智能网联汽车的高级辅助驾驶系统(ADAS)应用中,理解这两个标准的区别及其相互关系,对于保障车辆的安全性至关重要。ISO 26262:汽车功能安全的基石如图2.1所示,ISO 26262对“功能安全”的定义解释为:不存在由于电子/电气系统失效引起的危害
    广电计量 2025-01-02 17:18 218浏览
  • 车身域是指负责管理和控制汽车车身相关功能的一个功能域,在汽车域控系统中起着至关重要的作用。它涵盖了车门、车窗、车灯、雨刮器等各种与车身相关的功能模块。与汽车电子电气架构升级相一致,车身域发展亦可以划分为三个阶段,功能集成愈加丰富:第一阶段为分布式架构:对应BCM车身控制模块,包含灯光、雨刮、门窗等传统车身控制功能。第二阶段为域集中架构:对应BDC/CEM域控制器,在BCM基础上集成网关、PEPS等。第三阶段为SOA理念下的中央集中架构:VIU/ZCU区域控制器,在BDC/CEM基础上集成VCU、
    北汇信息 2025-01-03 16:01 173浏览
  • 国际标准IPC 标准:IPC-A-600:规定了印刷电路板制造过程中的质量要求和验收标准,涵盖材料、外观、尺寸、焊接、表面处理等方面。IPC-2221/2222:IPC-2221 提供了用于设计印刷电路板的一般原则和要求,IPC-2222 则针对高可靠性电子产品的设计提供了进一步的指导。IPC-6012:详细定义了刚性基板和柔性基板的要求,包括材料、工艺、尺寸、层次结构、特征等。IPC-4101:定义了印刷电路板的基板材料的物理和电气特性。IPC-7351:提供了元件封装的设计规范,包括封装尺寸
    Jeffreyzhang123 2025-01-02 16:50 198浏览
  • 在测试XTS时会遇到修改产品属性、SElinux权限、等一些内容,修改源码再编译很费时。今天为大家介绍一个便捷的方法,让OpenHarmony通过挂载镜像来修改镜像内容!触觉智能Purple Pi OH鸿蒙开发板演示。搭载了瑞芯微RK3566四核处理器,树莓派卡片电脑设计,支持开源鸿蒙OpenHarmony3.2-5.0系统,适合鸿蒙开发入门学习。挂载镜像首先,将要修改内容的镜像传入虚拟机当中,并创建一个要挂载镜像的文件夹,如下图:之后通过挂载命令将system.img镜像挂载到sys
    Industio_触觉智能 2025-01-03 11:39 113浏览
  • 从无到有:智能手机的早期探索无线电话装置的诞生:1902 年,美国人内森・斯塔布菲尔德在肯塔基州制成了第一个无线电话装置,这是人类对 “手机” 技术最早的探索。第一部移动手机问世:1938 年,美国贝尔实验室为美国军方制成了世界上第一部 “移动” 手机。民用手机的出现:1973 年 4 月 3 日,摩托罗拉工程师马丁・库珀在纽约曼哈顿街头手持世界上第一台民用手机摩托罗拉 DynaTAC 8000X 的原型机,给竞争对手 AT&T 公司的朋友打了一个电话。这款手机重 2 磅,通话时间仅能支持半小时
    Jeffreyzhang123 2025-01-02 16:41 167浏览
  • 在快速发展的能源领域,发电厂是发电的支柱,效率和安全性至关重要。在这种背景下,国产数字隔离器已成为现代化和优化发电厂运营的重要组成部分。本文探讨了这些设备在提高性能方面的重要性,同时展示了中国在生产可靠且具有成本效益的数字隔离器方面的进步。什么是数字隔离器?数字隔离器充当屏障,在电气上将系统的不同部分隔离开来,同时允许无缝数据传输。在发电厂中,它们保护敏感的控制电路免受高压尖峰的影响,确保准确的信号处理,并在恶劣条件下保持系统完整性。中国国产数字隔离器经历了重大创新,在许多方面达到甚至超过了全球
    克里雅半导体科技 2025-01-03 16:10 119浏览
  • Matter加持:新世代串流装置如何改变智能家居体验?随着现在智能家庭快速成长,串流装置(Streaming Device,以下简称Streaming Device)除了提供更卓越的影音体验,越来越多厂商开始推出支持Matter标准的串流产品,使其能作为智能家庭中枢,连结多种智能家电。消费者可以透过Matter的功能执行多样化功能,例如:开关灯、控制窗帘、对讲机开门,以及操作所有支持Matter的智能家电。此外,再搭配语音遥控器与语音助理,打造出一个更加智能、便捷的居家生活。支持Matter协议
    百佳泰测试实验室 2025-01-03 10:29 143浏览
  • 自动化已成为现代制造业的基石,而驱动隔离器作为关键组件,在提升效率、精度和可靠性方面起到了不可或缺的作用。随着工业技术不断革新,驱动隔离器正助力自动化生产设备适应新兴趋势,并推动行业未来的发展。本文将探讨自动化的核心趋势及驱动隔离器在其中的重要角色。自动化领域的新兴趋势智能工厂的崛起智能工厂已成为自动化生产的新标杆。通过结合物联网(IoT)、人工智能(AI)和机器学习(ML),智能工厂实现了实时监控和动态决策。驱动隔离器在其中至关重要,它确保了传感器、执行器和控制单元之间的信号完整性,同时提供高
    腾恩科技-彭工 2025-01-03 16:28 159浏览
  • 物联网(IoT)的快速发展彻底改变了从智能家居到工业自动化等各个行业。由于物联网系统需要高效、可靠且紧凑的组件来处理众多传感器、执行器和通信设备,国产固态继电器(SSR)已成为满足中国这些需求的关键解决方案。本文探讨了国产SSR如何满足物联网应用的需求,重点介绍了它们的优势、技术能力以及在现实场景中的应用。了解物联网中的固态继电器固态继电器是一种电子开关设备,它使用半导体而不是机械触点来控制负载。与传统的机械继电器不同,固态继电器具有以下优势:快速切换:确保精确快速的响应,这对于实时物联网系统至
    克里雅半导体科技 2025-01-03 16:11 164浏览
  • 【工程师故事】+半年的经历依然忧伤,带着焦虑和绝望  对于一个企业来说,赚钱才是第一位的,对于一个人来说,赚钱也是第一位的。因为企业要活下去,因为个人也要活下去。企业打不了倒闭。个人还是要吃饭的。企业倒闭了,打不了从头再来。个人失业了,面对的不仅是房贷车贷和教育,还有找工作的焦虑。企业说,一个公司倒闭了,说明不了什么,这是正常的一个现象。个人说,一个中年男人失业了,面对的压力太大了,焦虑会摧毁你的一切。企业说,是个公司倒闭了,也不是什么大的问题,只不过是这些公司经营有问题吧。
    curton 2025-01-02 23:08 290浏览
  • 影像质量应用于多个不同领域,无论是在娱乐、医疗或工业应用中,高质量的影像都是决策的关键基础。清晰的影像不仅能提升观看体验,还能保证关键细节的准确传达,例如:在医学影像中,它对诊断结果有着直接的影响!不仅如此,影像质量还影响了:▶ 压缩技术▶ 存储需求▶ 传输效率随着技术进步,影像质量的标准不断提高,对于研究与开发领域,理解并提升影像质量已成为不可忽视的重要课题。在图像处理的过程中,硬件与软件除了各自扮演着不可或缺的基础角色,有效地协作能够确保图像处理过程既高效又具有优异的质量。软硬件各扮演了什么
    百佳泰测试实验室 2025-01-03 10:39 137浏览
  • 本文继续介绍Linux系统查看硬件配置及常用调试命令,方便开发者快速了解开发板硬件信息及进行相关调试。触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。查看系统版本信息查看操作系统版本信息root@ido:/# cat /etc/*releaseDISTRIB_ID=UbuntuDISTRIB_RELEASE=20.04DISTRIB_CODENAME=focalDIS
    Industio_触觉智能 2025-01-03 11:37 137浏览
  • 光耦合器,也称为光隔离器,是一种利用光在两个隔离电路之间传输电信号的组件。在医疗领域,确保患者安全和设备可靠性至关重要。在众多有助于医疗设备安全性和效率的组件中,光耦合器起着至关重要的作用。这些紧凑型设备经常被忽视,但对于隔离高压和防止敏感医疗设备中的电气危害却是必不可少的。本文深入探讨了光耦合器的功能、其在医疗应用中的重要性以及其实际使用示例。什么是光耦合器?它通常由以下部分组成:LED(发光二极管):将电信号转换为光。光电探测器(例如光电晶体管):检测光并将其转换回电信号。这种布置确保输入和
    腾恩科技-彭工 2025-01-03 16:27 155浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦