大模型算力、模型与应用共舞腾飞

智能计算芯世界 2024-12-03 08:12

AIGC 是一种基于生成式 AI 技术的新型内容创作方式。本篇(更多内容参考“AIGC行业全景篇:算力、模型与应用的创新融合”)报告围绕 AIGC的发展历程与市场机遇、算力基础设施的发展趋势、大模型算法与商业模式的融合以及 AIGC 应用市场的创新发展来分析 AIGC 产业链的相关机会。

下载地址:
AIGC行业全景篇:算力、模型与应用的创新融合
2024年中国智能算力行业白皮书
《AIGC行业研究报告合集(最新版)》
1、AIGC发展研究3.0发布版(2024.11) 2、2024年全球AIGC产业全景报告(2024.11)
2025中国AIoT产业全景图谱报告(2024)
DeepSeek发布中国版o1推理模型,海外量子密集突破
《大模型微调技术实践合集》
1、以数据为中心的LLM训练 2、提升大模型的数学推理技能 3、滴普企业大模型在智能制造行业的落地实践 4、数据治理与大模型的协同实践
《AI数据中心(AIDC)建设白皮书合集》
1、超云AIDC基础设施建设白皮书(2024) 2、华为AIDC白皮书(2024)
2024年全球AIGC产业全景报告
HBM产业链专题报告:国内AI发展胜负手,国产化迫在眉睫
AIGC算力全景及趋势报告(精华)
SSD闪存技术基础知识全解(知识星球版)
服务器基础知识全解(知识星球版)
存储系统基础知识全解(知识星球版)

800+份重磅ChatGPT专业报告


1、人工智能的发展历程与AIGC 的市场机遇

人工智能的历史可以追溯到 20 世纪 50 年代。1950 年,被誉为“人工智能之父”的艾伦·图灵(Alan Turing)提出了著名的图灵测试,借助“问”与“答”的方式来评估机器是否具备智能。

人工智能的发展历程可以划分为三次浪潮,从最初的逻辑推理和专家系统,到机器学习和深度学习,人工智能技术不断演进

机器学习是人工智能的一个重要分支,使计算机系统能够从数据中汲取知识,进而做出预测或决策。现代人工智能技术广泛应用,如卷积神经网络(CNN)、递归神经网络(RNN)和生成对抗网络(GAN)等,特别是在自然语言处理(NLP)领域的突破,例如 BERT 和 GPT 系列模型,使得机器在理解和生成自然语言方面取得了显著进展。

生成式 AI(Generative AI)作为深度学习的一个重要分支,是一种能够基于用户请求创造原创内容的人工智能技术与传统 AI 主要关注于识别和预测现有数据模式不同,AIGC 则专注于创造全新的、有创意的数据。其核心原理在于学习和理解数据的分布,从而生成具有相似特征的新数据,能够生成文本、图像、音频、视频等多种形式的内容。

大语言模型的发展经历了基础模型、能力探索和突破发展三个阶段。2017年,Vaswani 等人提出的 Transformer 架构为大语言模型的演进奠定了坚实基础。自 2018 年以来,Google、OpenAI 和 Meta 等公司相继推出了多种大语言模型,如 OpenAI 的 GPT 系列、Google 的 Gemini 和 Meta 的 LLaMA 系列,推动了这一领域的迅猛发展。

2、AIGC 产业链结构与未来市场增长展望

AI 产业链可分为基础层、模型层和应用层三个层面。基础层提供 AI 运行所需的底层算力资源和数据资源,其中算力资源涵盖 AI 芯片、存储、网络、安全及基础设施软件,数据资源则包括 AIGC 模型训练和优化所需的大量高质量多模态数据,以及数据分类、标记和清洗过滤的技术手段。模型层负责开发和优化模型算法,包括通用 AIGC 模型、行业应用微调模型,以及监督学习、无监督学习和强化学习等训练模型。应用层则涵盖针对企业的专用模型应用和针对个人用户的个性化服务,涉及文本、图像、音频、视频及多模态内容等多个应用服务方向。

基础层:大模型的技术发展推动算力需求激增,算力存储网络成为投资的主赛道

随着 AIGC 大模型性能的显著提升,对计算资源的需求也呈现出指数级的增长。以 GPT-4 为例,其训练过程需要约 2.15e25 FLOPS 的运算量,这通常需要动用约 25000 块 A100 GPU,且训练周期长达 90 至 100 天。此外,数据采集、模型优化和强化学习等环节的额外开销,使得整体成本变得更加高昂。

当前,人工智能领域的 AI 芯片家族日益壮大,主要包括 GPU(图形处理器)、FPGA(现场可编程门阵列)、ASIC(专用集成电路)和 NPU(神经拟态芯片)。其中,GPU 和 FPGA 属于成熟的通用型 AI 芯片,而 ASIC 则为特定 AI场景定制,如谷歌的 TPU、亚马逊的 Trainium 和微软的 Maia。

英伟达的 GPU 产品在 AIGC 的发展历程中扮演了至关重要的角色,其成功源于在硬件性能和软件生态方面的持续投入与创新。在硬件领域,英伟达推出了 Volta、Turing、Ampere、Hopper 和 Blackwell 等系列架构,这些架构配备了专为深度学习设计的 CUDA Core 和 Tensor Core,显著提升了 AI 训练与推理的效率。CUDA Core 负责基础运算,其数量通常与 FP32 计算单元相对应;而 Tensor Core 则在 Volta 及后续架构中引入,专门用于张量计算,与深度学习框架(如 TensorFlow 和 PyTorch)结合使用,带来了十几倍的效率提升。

在 AIGC 算力架构中,高性能网络基础设施扮演着至关重要的角色。网络瓶颈可能导致 GPU 集群的利用率降低、大模型训练时间延长及训练成本增加。因此,为了满足 AIGC 计算的需求,尤其是在大规模 GPU 集群中,亟需大量高效的网络交换设备,以支持高速率、低时延、高吞吐量和高能效的数据传输。800G/1600G 网络技术的发展,能够提供更高的数据传输速率和更低的传输时延,从而加速 AIGC 模型的训练与推理过程。

模型层:算法进步、性能成本优化与商业模式多元化的融合

AIGC 的快速崛起得益于基础生成算法的持续创新与突破。核心生成算法,如生成对抗网络(Generative Adversarial Network,GAN)、扩散模型(Diffusion Model)和 Transformer 等,为 AIGC 的发展奠定了坚实的技术基础。这些算法的不断进步推动了 AIGC 的爆发,拓展了其在内容生成领域的应用潜力。

Transformer 模型引入了自注意力机制,使得模型能够根据输入序列中的不同部分分配不同的注意权重,从而更有效地捕捉语义关系。这一创新催生了众多变体,如 BERT、GPT 和 XLNet 等,这些模型在各自领域取得了显著成果,推动了自然语言处理等行业的发展。伴随着生成式算法的不断创新突破,AIGC 如今能够生成多种类型的内容和数据,包括文本、代码、图像、语音和视频物体等,展现了广泛的应用潜力。

谷歌推出了基于 Transformer 架构的自然语言处理预训练模型BERT,标志着人工智能领域进入了一个以大规模预训练模型参数为核心的新纪元。BERT 的核心创新在于其双向训练策略,能够同时考虑单词左侧和右侧的上下文信息,使得其在理解单词含义时更为精准。通过在大量文本数据上的预训练,BERT 学习到了深层次的语言表示,这些表示可以迁移到多种下游 NLP任务中,如文本分类、问答系统和命名实体识别等。BERT 通过微调(Finetuning)进一步适应特定任务的需求,极大地提升了自然语言处理的效果和应用广度。

一个典型的多模态大型语言模型(MLLM)可以抽象为三个核心模块:预训练的模态编码器(Modality Encoder)、预训练的大型语言模型,以及连接它们的模态接口(Connector)。类比于人类,模态编码器相当于接收和预处理光学/声学信号的人类眼睛和耳朵,而大型语言模型则像是理解并推理处理信号的人类大脑。在这两者之间,模态接口的功能是对齐不同的模态。以 GPT-4V 为代表的多模态大型语言模型在多模态任务中展现出了前所未有的能力。

在大语言模型市场,OpenAI 凭借其卓越的技术成为市场的领头羊。根据IoT Analytics 的分析,OpenAI 在推出 ChatGPT 短短两个月内便实现了月活跃用户数突破 1 亿,成为有史以来用户增长速度最快的消费级应用程序。凭借ChatGPT 的成功,OpenAI 在大语言模型市场中以 39%的市场份额处于领先地位。紧随其后的是科技巨头微软(30%)、亚马逊(8%)和谷歌(7%)。

应用层:技术创新推动应用市场发展和传统行业变革

AIGC 技术在面向消费者(ToC)和面向企业(ToB)领域都有广泛的应用场景。随着技术的持续演进和迭代,这些应用场景和商业模式正不断拓展和演变。

AIGC 应用产品种类繁多,其中 Chatbot 占据领先地位。根据 AI 产品榜的数据,全球市场上,ChatGPT 的月访问量已突破 30 亿次,使其成为全球第十一大网站。从产品分布来看,AIGC 赛道涵盖了多个领域,包括 Chatbot、内容创作、翻译、搜索、教育和知识管理等。在国内市场,前十的应用主要以Chatbot 为主,同时 AI 搜索的占比也在逐步提升。

AIGC 应用市场正呈现出多元化的竞争格局,发展态势持续演变。随着越来越多的初创企业和中小型公司进入市场,这些企业致力于推出针对特定行业的AIGC 产品,如医疗、广告、金融和教育等领域的定制化应用工具。

下载链接:
谷歌TPU:为更专业的AI计算而生
《2024智算中心算力技术白皮书合集》
1、2024智算中心基础设施演进白皮书 2、2024年中国智能算力行业白皮书
2024年全球人工智能现状全景报告
2024年智能传感器产业:前景机遇与技术趋势探析报告
《2024年AI算力“卖水人”系列报告合集》
1、AI算力“卖水人”系列(1):2024年互联网AI开支持续提升 2、AI算力“卖水人”系列(2):芯片散热从风冷到液冷,AI驱动产业革新
3、AI算力“卖水人”系列(3):NVIDIA GB200:重塑服务器、铜缆、液冷、HBM分析
《数据中心技术与趋势合集》
1、中伦互联网数据中心全解读 2、中国第三方数据中心服务商分析报告 3、面向AI 智算数据中心网络架构与连接技术的发展路线展望 4、新一代智算数据中心基础设施技术白皮书 5、中国数据中心产业发展白皮书
《2024全球人工智能开发与应用大会》
1、大语言模型在计算机视觉领域的应用 2、大模型的异构计算和加速 3、大模型辅助需求代码开发 4、大模型在华为推荐场景中的探索和应用 5、大模型在推荐系统中的落地实践 6、大语言模型的幻觉检测 7、大语言模型在法律领域的应用探索
《2024全球人工智能开发与应用大会(下)》
《2024全球人工智能开发与应用大会(上)》
《大模型实践案例合集集》
1、2024大模型典型示范应用案例集 2、2023大模型落地应用案例集
2024人形机器人研究报告
2024亚太不同国家和区域对生成式AI的反应白皮书
大规模智算集群的管理与性能调优实践
计算机自主可控系列:国产AI算力万卡集群,多芯混合时代来临
2024年AI原生路由器白皮书
端侧AI行业:引领边缘智能革命,激发数据潜能
2024全球AI芯片研究报告
大模型时代的AI能力工程化
大模型时代的工业质检方法论
大模型时代数据库技术创新
大模型在融合通信中的应用实践
2024车载SoC芯片产业分析报告
中国智能汽车车载计算芯片产业报告
中国车规级芯片产业白皮书
计算机行业深度:从技术路径,纵观国产大模型逆袭之路
《AI算力“卖水人”系列报告合集》
1、AI算力卖水人系列(1):2024年互联网AI开支持续提升 2、AI算力卖水人系列(2):芯片散热从风冷到液冷,AI驱动产业革新

本号资料全部上传至知识星球,更多内容请登录智能计算芯知识(知识星球)星球下载全部资料。



免责申明:本号聚焦相关技术分享,内容观点不代表本号立场,可追溯内容均注明来源,发布文章若存在版权等问题,请留言联系删除,谢谢。



温馨提示:

请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享,点击“阅读原文”获取更多原创技术干货。


智能计算芯世界 聚焦人工智能、芯片设计、异构计算、高性能计算等领域专业知识分享.
评论
  •         温度传感器的精度受哪些因素影响,要先看所用的温度传感器输出哪种信号,不同信号输出的温度传感器影响精度的因素也不同。        现在常用的温度传感器输出信号有以下几种:电阻信号、电流信号、电压信号、数字信号等。以输出电阻信号的温度传感器为例,还细分为正温度系数温度传感器和负温度系数温度传感器,常用的铂电阻PT100/1000温度传感器就是正温度系数,就是说随着温度的升高,输出的电阻值会增大。对于输出
    锦正茂科技 2024-12-03 11:50 97浏览
  • 《高速PCB设计经验规则应用实践》+PCB绘制学习与验证读书首先看目录,我感兴趣的是这一节;作者在书中列举了一条经典规则,然后进行详细分析,通过公式推导图表列举说明了传统的这一规则是受到电容加工特点影响的,在使用了MLCC陶瓷电容后这一条规则已经不再实用了。图书还列举了高速PCB设计需要的专业工具和仿真软件,当然由于篇幅所限,只是介绍了一点点设计步骤;我最感兴趣的部分还是元件布局的经验规则,在这里列举如下:在这里,演示一下,我根据书本知识进行电机驱动的布局:这也算知行合一吧。对于布局书中有一句:
    wuyu2009 2024-11-30 20:30 118浏览
  • 作为优秀工程师的你,已身经百战、阅板无数!请先醒醒,新的项目来了,这是一个既要、又要、还要的产品需求,ARM核心板中一个处理器怎么能实现这么丰富的外围接口?踌躇之际,你偶阅此文。于是,“潘多拉”的魔盒打开了!没错,USB资源就是你打开新世界得钥匙,它能做哪些扩展呢?1.1  USB扩网口通用ARM处理器大多带两路网口,如果项目中有多路网路接口的需求,一般会选择在主板外部加交换机/路由器。当然,出于成本考虑,也可以将Switch芯片集成到ARM核心板或底板上,如KSZ9897、
    万象奥科 2024-12-03 10:24 56浏览
  • 戴上XR眼镜去“追龙”是种什么体验?2024年11月30日,由上海自然博物馆(上海科技馆分馆)与三湘印象联合出品、三湘印象旗下观印象艺术发展有限公司(下简称“观印象”)承制的《又见恐龙》XR嘉年华在上海自然博物馆重磅开幕。该体验项目将于12月1日正式对公众开放,持续至2025年3月30日。双向奔赴,恐龙IP撞上元宇宙不久前,上海市经济和信息化委员会等部门联合印发了《上海市超高清视听产业发展行动方案》,特别提到“支持博物馆、主题乐园等场所推动超高清视听技术应用,丰富线下文旅消费体验”。作为上海自然
    电子与消费 2024-11-30 22:03 93浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 118浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 91浏览
  • 11-29学习笔记11-29学习笔记习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-02 23:58 59浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 108浏览
  • 当前,智能汽车产业迎来重大变局,随着人工智能、5G、大数据等新一代信息技术的迅猛发展,智能网联汽车正呈现强劲发展势头。11月26日,在2024紫光展锐全球合作伙伴大会汽车电子生态论坛上,紫光展锐与上汽海外出行联合发布搭载紫光展锐A7870的上汽海外MG量产车型,并发布A7710系列UWB数字钥匙解决方案平台,可应用于数字钥匙、活体检测、脚踢雷达、自动泊车等多种智能汽车场景。 联合发布量产车型,推动汽车智能化出海紫光展锐与上汽海外出行达成战略合作,联合发布搭载紫光展锐A7870的量产车型
    紫光展锐 2024-12-03 11:38 89浏览
  • 概述 说明(三)探讨的是比较器一般带有滞回(Hysteresis)功能,为了解决输入信号转换速率不够的问题。前文还提到,即便使能滞回(Hysteresis)功能,还是无法解决SiPM读出测试系统需要解决的问题。本文在说明(三)的基础上,继续探讨为SiPM读出测试系统寻求合适的模拟脉冲检出方案。前四代SiPM使用的高速比较器指标缺陷 由于前端模拟信号属于典型的指数脉冲,所以下降沿转换速率(Slew Rate)过慢,导致比较器检出出现不必要的问题。尽管比较器可以使能滞回(Hysteresis)模块功
    coyoo 2024-12-03 12:20 86浏览
  • 遇到部分串口工具不支持1500000波特率,这时候就需要进行修改,本文以触觉智能RK3562开发板修改系统波特率为115200为例,介绍瑞芯微方案主板Linux修改系统串口波特率教程。温馨提示:瑞芯微方案主板/开发板串口波特率只支持115200或1500000。修改Loader打印波特率查看对应芯片的MINIALL.ini确定要修改的bin文件#查看对应芯片的MINIALL.ini cat rkbin/RKBOOT/RK3562MINIALL.ini修改uart baudrate参数修改以下目
    Industio_触觉智能 2024-12-03 11:28 66浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦