·聚焦:人工智能、芯片等行业
欢迎各位客官关注、转发
如同电与电网的区别,电是一项伟大的发明,但如果没有电网,就不会出现微波炉、电烤箱、电动车等新的发明。
换言之,AI 2.0 之于 AI 1.0 的区别,就在于将 AI 技术变成平台,将定制变成通用,将点变成面。
11月6日,李开复博士带队创办的AI 2.0公司零一万物,正式开源发布首款预训练大模型 Yi-34B。
获得的多项记录具体如下:
①Hugging Face英文测试榜单位居第一,以34B的大小碾压Llama-2 70B和Falcon-180B等一众大尺寸大模型;
②唯一成功登顶HuggingFace的国产大模型;
③C-Eval中文能力排行榜位居第一,超越了全球所有开源模型;
④MMLU、BBH等八大综合能力表现全部胜出;
⑤拿下全球最长上下文窗口宝座,达到200K,可直接处理40万汉字超长文本输入。
Yi系列大模型的首个公开版本有两款,即Yi-6B(数据参数量为60亿)、Yi-34B(数据参数量为340亿)。
二者的主要区别是,Yi-6B适合个人及研究用途,Yi-34B则具备了智能涌现的能力,能应用于多元的场景,并满足开源社区的需求。
对于做[超级应用]的方法论,李开复认为一定是一个很简单的开始,用精益创业的方法不断地迭代。
就像抖音和微信的第一个版本,并不是超级应用,而是捕捉到了用户需求,并用新平台的技术精髓,做一个大家喜欢的简单应用,然后根据用户反馈不断调整,最终迭代成为超级应用。
零一万物的路径选择,也是 AI 2.0 创业潮的产业缩影。
开源、闭源并线进行,基础模型和超级应用都做,甚至 ToB、ToC 的商业化同时探索。
这在过去是罕见的,因为 ToB 和 ToC,意味着公司组织、DNA、团队的技术构建方式不一样,原来做用户产品的,很难想象一夜之间能服务 B 端客户。
但在大模型这个高门槛、高不确定性的创业赛道上,同时兼顾,已经成为大家共同的选择。
在 AI 2.0 时代,每个领域都有机会将原有的应用重构一遍,用更短的时间生产出更高质量的数字内容,而且千人千面、精准优化信息流,做出更伟大的商业模式。
一方面,降低训练成本是减少 AI 应用开发成本、催生一系列爆款应用的前提;
另一方面,长文本处理是商业应用的一道拦路虎。
训练一个出色的大模型,最重要的是拥有高质量的数据。
AI Infra(AI Infrastructure 人工智能基础架构技术)主要涵盖大模型训练和部署提供各种底层技术设施,包括处理器、操作系统、存储系统、网络基础设施、云计算平台等。
同时也是模型训练背后极其关键的[保障技术],这是大模型行业至今较少受到关注的硬技术领域。
首先,它先用 AI 做筛选,再进行人工评估、不断迭代,其数据滤除率约为同行的十分之一。
其次,它的英文语料要高于中文语料,因为英文语料的质量更高。
零一万物自研出一套规模化训练实验平台,数据配比、超参搜索、模型结构实验都可以在小规模实验平台上进行,对 34B 模型每个节点的预测误差都可以控制在 0.5% 以内。
由李开复领导的大模型创业团队具备强大的实力,其成员均具备丰富的经验和卓越的技术实力。
而算法和模型团队成员中,有论文曾被GPT-4引用的算法大拿,有获得过微软内部研究大奖的优秀研究员,曾获得过阿里CEO特别奖的超级工程师。
总计在ICLR、NeurIPS、CVPR、ICCV等知名学术会议上发表过大模型相关学术论文100余篇。
李开复曾担任微软全球副总裁、谷歌全球副总裁兼大中华区总裁,并创办了创新工场,这些经历使其在科技行业积累了深厚的经验。
AI Alignment的负责人是Google Bard/Assistant早期的核心成员,他们在多轮对话、个人助理等多个方向的研究和工程落地方面有着丰富的经验和突出的贡献。
Pretrain的负责人黄文灏,曾在微软亚洲研究院和智源研究院任职,其技术实力和学术素养均属一流。
AI Infra的负责人戴宗宏曾担任华为云AI CTO及技术创新部长、阿里达摩院AI Infra总监,他在AI架构领域有着深厚的专业知识和丰富的实践经验。
李先刚博士曾在百度和滴滴担任首席算法工程师,其专业背景出自北京大学,展现出卓越的学术素养和技术实力。
马杰曾担任百度副总裁,并负责百度[希壤]业务,其在百度的工作经历也充分证明了其具备丰富的实战经验和卓越的管理能力。
这个高配团队不仅在人员配备上堪称豪华,而且每位成员都在自己的领域有着极高的专业素养和丰富的实践经验,这也使得零一万物在技术领域具备了业内少有的实力。
真正具备深度理解大模型能力的人才仍相对稀缺,只有具备极高专业度并且在资本圈具有显著影响力的团队,才有可能在这场竞赛中脱颖而出。
这表明大模型创业并非全民参与的万众创业,而是一场由精英参与的小众创业。
然而,随着李开复的加入,这场科技盛宴的竞争格局变得更加复杂和充满不确定性,为大模型创业增添了更多的精彩看点。
部分资料参考:AI科技评论:《李开复说话算数:零一万物大模型首次发布,AI 2.0 正在路上》,投资界:《刚刚,李开复最快独角兽诞生》,松果智能Hub:《零一万物开源大模型,领跑全球AI 2.0时代》,创业资本汇:《[零一万物]发布Yi系列大模型,[百模大战]又迎新变局》
推荐阅读:
商务合作请加微信勾搭:
18948782064
请务必注明:
「姓名 + 公司 + 合作需求」