近日据路透社报道,中国科技巨头字节跳动(ByteDance)与美国芯片设计巨头博通(Broadcom)达成合作,共同研发先进的5纳米(nm)定制化AI芯片,旨在提升其在人工智能领域的竞争力并确保高端芯片供应的稳定性。
据知情人士透露,这款AI处理器是一种特定应用集成芯片(ASIC),将符合美国的出口限制,此举将有助于字节跳动旗下TikTok在地缘政治紧张局势中确保足够的高端芯片供应。目前,芯片设计工作已取得显着进展,但尚未进入流片(tapeout)阶段,预计未来将由台积电进行代工生产。
6月24日晚间,字节跳动对《科创板日报》等媒体表示,该消息不实。
尽管合作传闻不实,但字节跳动在AI领域的布局和进展不容忽视。过去一年多来,随着AI大模型技术的快速发展,字节跳动积极追赶,并在基础大模型和应用层进行了全面布局。
搞AIGC,最缺的就是芯片
与微软、谷歌以及亚马逊等全球众多科技巨头一样,字节跳动在全球生成式人工智能领域可谓扮演着重大推动的关键角色,但该公司及亚洲众多科技同行不得不面临美国政府发起的尖端半导体制裁重压。在美国制裁之下英伟达以及AMD等芯片巨头们所开发的高性能AI GPU无法流入这些地区。
确保AI芯片的稳定供应,对字节跳动不断演进算法至关重要。
除了TikTok和抖音,字节跳动旗下的豆包是一款与ChatGPT类似的AI聊天机器人。据了解,豆包APP是字节跳动于2023年6月推出的AI对话助手。目前在苹果APP Store和各大安卓应用市场,豆包APP的下载量在AIGC类应用中排名第一,月度活跃用户突破2600万,智能体创建总数达800万。
2023年8月,字节跳动推出了首个大语言模型“豆包”以及多模态大模型BuboGPT。其中,抖音云雀大模型已通过了首批《生成式人工智能服务管理暂行办法》备案,面向公众开放。此外,字节跳动在语言和图像两种模态上均进行了布局,并有两个团队直接向TikTok技术负责人朱文佳汇报。
在AI应用层,字节跳动于2023年11月成立了新的AI部门Flow,并已推出三款AI对话类产品,包括豆包、扣子和Cici。豆包作为一款聊天机器人产品,能够完成问答、文本生成、语言翻译等多种任务,提供个性化服务。扣子则是一个一站式AI Bot开发平台,允许用户无需编程基础,快速搭建基于AI模型的各类问答Bot,解决简单问答并处理复杂逻辑的对话。
进入2024年,字节跳动加大产品研发速度,持续推出AI学习伙伴河马爱学、AI剧情互动产品猫箱、AI生图产品PicPci、多模态数字人产品以及AI生图、AI生视频产品等多款AI大模型领域产品。
2024年5月15日,字节跳动在2024春季火山引擎FORCE原动力大会上正式发布“豆包大模型”。同时,字节跳动也公布了大模型的市场定价,豆包主力模型为0.0008元/千Tokens,即0.8厘就能处理1500多个汉字,比行业便宜了99.3%。
这类大模型应用是很“吃”AI训练芯片算力的,如果单纯依靠采购英伟达等巨头的GPU加速器,是一笔不小的开支,甚至还会面临禁运、缺货、涨价等卡脖子因素。基于类似的原因,如今微软、亚马逊、Meta等国际互联网巨头,以及国内的阿里都在布局自研AI芯片。
早已布局芯片领域
据两名知情人士透露,面对美国对高端半导体产品的出口管制,字节跳动未雨绸缪,去年在美国第一轮制裁生效前就斥资约20亿美元购买英伟达A100/H100芯片,以及英伟达为中国市场生产但后来也受到限制的A800和H800芯片。还购买了华为的Ascend 910B芯片。
与此同时,字节跳动还在官网发布数百个半导体相关职位招聘,其中包括15个ASIC芯片设计师岗位,从其他AI芯片公司挖角顶尖人才。
事实上,字节跳动在数年之前就已经开始了自研芯片的布局。早在2018年4月,字节跳动副总裁杨震原就曾表示,字节跳动拥有全球数量最大的用户上传视频需要分析理解处理,平台推荐引擎也需要强大的机器学习算力,有非常大量的芯片采购和应用,目前也在芯片相关领域积极寻求突破。
随后在2021年3月,字节跳动还在其官网,发布了12个芯片相关职位,包括芯片应用(ARM软硬件优化)、芯片应用(ARM硬件,北京/上海)、芯片CAD工程师、芯片综合/STA工程师、芯片DFT工程师、芯片后端设计工程师、芯片CAD等。猜测字节跳动正在自研云端AI芯片和Arm服务器芯片。对此,字节跳动相关负责人当时回应称:“是在组建相关团队,在AI芯片领域做一些探索。”
2022年7月,字节跳动副总裁杨震原在“2022火山引擎原动力大会”上接受媒体采访时确认,字节跳动正在开展自研芯片,主要用于自身视频推荐业务。研发团队将为字节跳动大规模视频推荐服务专用场景定制硬件优化,如视频编解码、云端推理加速等,以期提升性能,降低成本。
2023年8月,字节跳动旗下火山引擎视频云宣布其自研的视频编解码芯片已成功出片。与具备通用计算能力的CPU芯片相比,该自研芯片仅支持视频编解码任务,在特定场景具备更高的计算密度。
并且与NVIDIA合作,通过后者的GPU进行算力方面的协调与调度,同时合作开源BMF(Babit MultiMedia Framework)多媒体处理框架,通过由CPU、GPU以及视频编解码专用芯片等组成的异构计算资源底层,支撑上层,提升复用与效率,降低网络视频服务的计算、存储及传输带宽成本。
在自研芯片的同时,字节跳动近几年还投资了多家芯片厂商,其中就包括希姆计算、摩尔线程、润石科技、睿思芯科、上海云脉芯联、光舟半导体、聚芯微电子、昕原半导体等。
传闻中的两位合作伙伴
字节跳动与博通的合作基于双方长久以来的业务联系。此前,字节跳动已采购博通的高性能Tomahawk 5nm交换机芯片和AI超级计算机集群所需的Bailly交换芯片。此次合作不仅有助于字节跳动降低采购成本,更为其AI战略提供了强大的硬件支撑。
博通作为全球AI数据中心以太网交换机芯片和ASIC定制化芯片的主要供应商,拥有在数据高速互联传输技术以及芯片间互联通信领域的绝对技术领导地位。受益于AI需求的激增,其业务持续增长。博通CEO Hock Tann预测,2024财年公司与人工智能相关的营收将超过110亿美元。
此外,台积电作为全球领先的芯片代工商,不仅为英伟达、AMD、苹果等科技巨擘代工AI芯片,也将与博通合作生产这款5nm AI处理器。据悉,台积电已经与创意电子达成合作,成功获得下一代HBM4关键基础界面芯片(system basis chip,简称SBC)订单,进一步巩固了其在AI基础设施供应链中的核心地位。