英伟达凭借 GPU创造了辉煌业绩,却也腹背受敌,面临着来自谷歌TPU、苹果M系列等强劲竞争。其中,谷歌专门为加速机器学习应用中的矩阵运算而设计的一种定制化DSA (DomainSpecificArchitecture,领域特定架构)芯片——TPU(TensorProcessingUnit,张量处理单元),已经发展到第六代,成为了对标英伟达AI芯片的强力替代方案之一。
强强联袂,搭建坚实AI 计算底座
研发高性能 TPU 芯片“刹那® ”的 AI 服务器, 以及大规模 AI 计算集群系统“泰则® ”, 为项目搭建提供了坚实的AI 计 算底座。
与不足,降低成本。依托联通云“星罗 ”平台,实现多元异 构算力适配与服务编排,融合“通算+智算+超算 ”调度能力, 提供一体化算力服务,支持企业私有化部署与智能算力网络
据介绍,为打造为算力核心高地,合作双方通过构建智算中
心进一步强化了算力基础设施。其中,大亚湾核心算网调度 平台实现了算力资源的统一纳管与高效调度。该平台不仅整 合了国内外各类高性能算力资源,还能根据客户需求灵活分 配任务,确保算力资源的高效利用。例如,针对高校及科研 机构忙闲不均的算力需求,平台通过智能调度实现资源优化 配置,提升整体使用效率。
此外,作为算法调度核心, 中国联通推出的“星罗平台 ”集 成了大模型应用与评测功能,为客户提供一站式模型选择与 应用服务。客户可轻松上传自有模型进行训练推理,或利用 平台功能进行模型微调,实现从模型选择、感知到应用的全 程服务,极大地促进了算力与算法的深度融合与应用创新。
上述合作不仅代表了双方在技术层面的深度融合,同时也是 对未来AI 产业发展趋势的深刻洞察与精准把握。杨龚轶凡 表示:“双方的基础是各自的优势。”中昊芯英的优势在于芯 片设计、软件优化以及集群的软硬件栈构建,为 AI 算法提 供了坚实的硬件基础;而深圳联通则擅长云平台建设、物理 层面的突破、智算中心管理以及能耗控制,为 AI 算法的运 行提供了高效、可靠且可扩展的云端环境。“双方合作不仅 弥补了彼此的短板,还共同构建了高效、可靠的人工智能算 法基础设施资源平台,实现了资源的最优配置和效益的最大 化,”他说。
他补充道:“TPU 智算中心开启了商业化落地模式,具有里程 碑意义。此前, 中昊芯英已向多家模型公司销售 TPU,但非 共建单一优化平台。此次合作标志着双方共建最优算力平台 的新篇章。”
国产TPU 应运而生
随着 AIGC(AI Generated Content,人工智能生成内容)时 代的全面到来,大模型训练、神经网络开发等前沿应用对算 力的需求呈现出了爆炸性的增长态势。事实上,在中国 AI 发展浪潮中, 自研芯片需求十分殷切。
早在 2018 年,杨龚轶凡依托谷歌 TPU 研发经验,归国创立 公司,专注人工智能(AI)TPU 芯片研发,聚焦于AIGC 需求, 专注于为超大规模AI 模型提供高性能AI 芯片与计算集群。
历经五年深耕,中昊芯英成功量产基于全自研 GPTPU 架构的 高性能 TPU 芯片,引领了技术革新。这一成就不仅彰显了中 国在AI 芯片领域的突破,也让中昊芯英在 2024 年荣获杭州 市准独角兽企业称号,进一步巩固了其行业领先地位。
近年来,伴随 TPU 架构AI 芯片的迅速发展,其高效的矩阵 运算能力已成为AI 大模型训练的关键推手,不断推动着AI 技术在各领域的深入应用与革新。随着技术迭代,TPU 芯片 性能持续提升,满足日益增长的算力需求,为 AI 产业的蓬勃发展奠定了坚实基础。
在国内,TPU 架构AI 芯片发展势头强劲,多家企业积极投入 研发,致力于提升芯片性能的突破与应用场景的拓展。随着 AI 技术的广泛应用和算力需求的激增,TPU 芯片以其高效、 低功耗的特点,在 AI 大模型训练、智能推理等领域展现出 巨大潜力,为推动国内AI 产业的快速发展赋能。
在杨龚轶凡看来,随着大模型的爆发,AI 正式迈入了一个崭新纪元。昔日被戏称为“人工智障”的AI,如今已蜕变为真正意义上的AI,其展现出的判断力令人瞠目。传统AI多局限于模式与物体识别,仅停留于“见过与否”的初级层面。而今,AI不仅能识别,更能进行复杂的逻辑推理,如规划从A楼5层至B楼2楼的最佳路径,展现出前所未有的智慧。
这一飞跃得益于大模型的崛起,它们如同智力的放大器,模 型规模与人类智力水平间似乎存在某种正相关关系,尽管这 尚属实验性结论,却已成为业界的共识。在此背景下,强大 的算力集群成为支撑高参数量模型运算的关键,将构建坚实 的计算底座,让 AI 在实际应用中展现出更为精湛的逻辑推 理与决策能力,预示着一个由AI 驱动的全新智能时代的到 来。
作为国内 TPU 架构AI 芯片核心技术的领航者, 中昊芯英凭
借其独特的“算力基础设施+生态合作+产业应用场景 ”三位 一体化策略,不仅为客户量身打造了能够引发生产模式深刻 变革的AI 创新技术方案,更有力地推动了AI 技术的工程化 落地与产业化进程。这一举措不仅彰显了中昊芯英在AI 芯 片领域的深厚积累与前瞻视野,更为整个行业的快速发展注 入了强劲动力。
杨龚轶凡表示,TPU 是一种全新的架构,复杂性不言而喻。
其首要挑战在于非线性优化计算方式,以提升模型运算效率, 这一过程既漫长又投资巨大。研发中,需通过模拟器模拟芯 片运行,以验证优化算法的实际效果,这一过程充满迭代与 试错,类似科研探索。
他指出,随着技术的发展,在相同制造工艺、芯片尺寸和能 耗条件下,TPU相较于传统GPU架构,其不可替代的优势在于专为AI深度学习定制。TPU舍弃了GPU的部分灵活性,如光线追踪等复杂计算,转而专注于优化深度学习中的非线性计算,性能可提升3到5倍,具有显著的性价比。“在AI领域,尤其是深度学习模型的训练和部署,性价比是决定模型能否广泛落地的关键因素,”他说。
TPU 的架构设计使其在处理深度学习模型时,无论是单线程 还是集群性能均表现出色,特别适用于大规模模型训练和推 理。其网络基础架构和网络形态专为深度学习数据流量特征设计,无向前兼容负担,进一步增强了AI 算法运行的性价 比。
他回顾道, 中昊芯英团队凭借在谷歌 TPU 及 Oracle-Sun 高 性能服务器级 GPU 的深厚经验,构建了模拟器与创意框架, 经过多轮优化验证架构,确认其能为算法带来 3-5 倍性能提 升后,才推进至芯片实现阶段。从设计到实现完整规划到成功实现量产,历经近 5 年才完成了第一代产品。
他坦言:“首代产品的研发,缺乏现实参照,全凭想象与探 索,导致量产风险很高。然而,正是这些挑战促使团队采用 最尖端工具、封装技术及生产制程,历经近 5 年的艰苦努力, 最终实现了产品的诞生。”
他强调,这一过程不仅是技术上的突破,更是对人类智慧与 生产工艺极限的挑战,凝聚了无数人的心血与汗水,展现了 系统化工程的浩大与艰辛。随着技术的不断迭代,未来的研 发之路虽仍充满未知与挑战,但团队已积累了宝贵的经验, 为后续产品的顺利推出奠定了坚实基础。“国内研发的自主 可控AI 芯片不仅能带动经济效益,还能带动社会效益,”他 说。
智算基建,绿色未来
在算力领域,智能算力和绿色算力可以说是两大支柱。智能 算力赋能AI 创新,基于 GPU 等芯片,支撑算法训练与运行, 提升科学计算效能。而绿色算力则关注计算能效与环保,衡 量单位碳排放的算力输出,推动节能减排,实现数字经济与 环境保护的双赢。
关于智能算力落地应用,杨龚轶凡表示,芯片与系统集成的 挑战尤为显著。随着芯片数量的激增,通信效率成为一大难 题。犹如千百人同室而语,协调难度骤增,背景噪音干扰严 重,信息传递效率急剧下降。如何设计高效的信息交换协议 与物理链路,以实现从千到万乃至十万级别核心间的顺畅交 流,成为亟待解决的技术瓶颈。
恰恰是 TPU 独特的片间互联能力展现出强大的可拓展性优 势。它能够轻松实现千片以上互连,形成数据网络,并支持 节点间的灵活交互与通信。这一特性使得 TPU 在构建大规模 集群时更为简便,谷歌第 6 代 TPU 已能内部连接 16000 个芯 片,无需依赖外部以太网,为万卡至百万卡级别的集群部署 奠定了坚实基础。
他说,软件栈与系统集群的复杂性亦不容忽视。产品设计完 成后,光通信的可靠性问题接踵而至,跳码、误码现象频发, 需要在软硬件层面综合施策,以确保系统稳定运行。
此外,物理层面的能耗、计算机房等限制也是不容忽视的挑 战,需进一步优化芯片设计与系统架构,以突破性能瓶颈。 对此,深圳联通副总经理赵桂标指出,随着智算中心单机密未来展望
在企业布局与市场需求合力推动下, 中昊芯英AI 高性能智 算中心运营方案日臻成熟,正成为产业升级转型的强劲引擎, 赋能算力时代新飞跃。项目成功启动对深圳联通与中昊芯英
中昊芯英则在华南树立AI 算力新标杆,推动国产 AI 算力运营与产业升级迈向新高度。
“展望未来,深度学习稳固了AI 领域主导地位,TPU 则以其 深度优化特性,将持续增强AI 赛道竞争力,成为推动技术 发展的关键力量,”杨龚轶凡对此充满信心。