扎根产业,腾讯云为大模型找到了最好的练兵场。对腾讯云来说,这是一种务实的选择。
作者|黄枪枪
编辑|Cindy
ChatGPT推动的AI大模型浪潮,已深入行业领域。
最近两个月,从国外微软、OpenAI到国内百度、科大讯飞、阿里、360、中国移动等,纷纷针对政企、教育等行业客户,推出相关产品和解决方案。
现在,又一家企业正式入局闯关行业大模型。
6月19日,腾讯云在北京举办行业大模型及智能应用技术峰会,公布腾讯云在行业大模型方面的技术方案,以及多款SaaS智能应用升级、产业客户应用落地进展。
简单而言,腾讯云行业大模型锚定方向,是面向产业领域的应用落地,而非通用聊天助手类产品。
“打造一站式行业大模型精选商店。”根据腾讯云副总裁吴运声演讲来看,其将依托腾讯云TI平台打造模型精选商店,为客户提供MaaS一站式服务,和“量体裁衣、普惠适用”的行业模型解决方案。
开拓应用场景,加速To B落地,关系着新技术的发展与迭代。对行业大模型来说,伴随神秘面纱逐渐被揭开,也是其带来巨大生产力改变的关键。
当前,全球大模型探索仍处于早期阶段,尚未形成权威、通用的行业标准。那么,面对挑战与价值,腾讯云为何选择行业大模型其落地能力、技术路径情况如何?百家争鸣中,企业到底需要怎样的行业大模型?
4月19日,“极点商业”深入峰会现场进行多方观察,并和业界多方人士进行了交流探讨,试图从中找到问题答案。“扎根产业,腾讯云为大模型找到了最好的练兵场。”分析人士称,对腾讯云来说,这是一种务实的选择。
01
To B复杂场景,
需要行业大模型
“未来10年内,每家公司都会建立自己的大模型。”全球人工智能十大科学家之一、深度学习先驱及奠基者特伦斯·谢诺夫斯基近日预测,每家公司都会拥有自己特定目的的大模型,要么用于处理数据,要么用于提升效率,创新经营。
企业转向人工智能时代,国内多家科技企业也有类似表态。问题是,对政企、金融以及更多中小、To B企业来说,需要怎样的大模型?
“大模型与行业、企业融合,是目前各个企业都在考虑的迫切问题。”6月19日的腾讯云峰会现场,多家企业负责人对“极点商业”表示,多数企业受技术、资金、人才等限制,无法独立去自己搭建大模型,因此往往需要搭载第三方大模型工具和服务。
对企业需要怎样的第三方大模型考量上,“极点商业”根据多家企业和业内人士的说法,归纳总结为以下几点:
1、需聚焦自身企业场景,让AI服务范围更聚焦与可控。2、针对具体场景,挑选合适模型满足实际需求。3、有专业的云厂商工具,搭建一体化模型服务,提高效率。4、能建立服务质量评估流程。5、数据及模型应用安全、合规、可控。
上述考量中,低成本低门槛、全栈技术、强大算力、高效处理、优质服务是“标配需求”。
此外,由于To B千行百业,业务量大、需求复杂,很多企业要在第三方框架平台基础上,将微调、性能调优等工具简化,以此去低门槛开发、高度定制化自己的专属大模型。
对政企、金融、制造等行业来说,“安全是重中之重。”一位To B金融行业人士告诉“极点商业”,金融行业搭建大模型,不仅需对数据进行清洗、去重、脱敏、加密,同时数据来源、获取也需要合法合规。最后才会考虑到复杂、多样的实际应用和业务场景。
在工业领域大模型,则需要满足不同的应用场景,涉及生产优化、产品设计研发、质量控制检测、供应链管理、安全生产等等,都需要根据不同的业务场景,设计相应模型和算法。
垂直化、专业化复杂需求意味着,当前火热的通用大模型,很难完全满足To B垂类行业——尽管通用大模型价值也很大,比如适用性较广,可以与C端业务、产品结合甚至“重做一遍”,但并不一定适合B端的所有场景落地。对To B来说,上述提及的复杂生产逻辑,需要构建行业预训练模型,才能更好满足实际落地场景需求。
实际上,布局行业大模型的平台、工具与服务并不算少,但从现状来看,依然存在计算资源少、数据质量差、 投入成本高、专业经验少等几大核心痛点,真正落地应用成熟的产品,还很少。
算力是打造所有类型大模型生态的动力源泉。但大模型喂养训练、开发成本太高。比如,要训练像ChatGPT这样的生成式AI,至少需要1万张英伟达A100加速卡的支持,大模型训练每月成本在数百万美元以上量级。
目前,国内只有包括腾讯云在内的少数几家企业,具备这样的硬实力。考虑到To B行业需要结合复杂应用场景喂养,那么成本会更高。
另外从专业经验看,行业大模型部署需考虑到计算资源、网络带宽、安全性等多方面问题,但很多企业、机构缺乏相关技术、人才和经验,导致模型无法顺利部署和应用。
对腾讯云而言,上述难题或许并不是问题——以算力为例,多年来基础设施领域持续投入后,腾讯云搭建起了行业领先的高性能、低成本、超大规模的算力基础设施。今年4月,腾讯云发布面向大模型训练的新一代HCC高性能计算集群,整体性能比过去提升3倍。
腾讯集团高级执行副总裁、云与智慧产业事业群 CEO 汤道生表示,HCC 获得了很多客户的高度认可,几家 AI 独角兽都与腾讯云展开了合作。
02
不止一站式,
腾讯云的行业大模型实践
“希望能以最低的成本、最合适的模型和最好的服务把大模型真正做好,会在预算和成本可控的情况下提供最符合逻辑的模型,让其在场景中达到目的,解决问题。”吴运声表示。
从“极点商业”现场观察来看,腾讯云推出的为何是行业大模型,而非通用大模型,这并非鱼和熊掌不可兼得的故事。更多只是站在政企等客户角度,进一步对外释放自身在行业上的技术、服务能力。
腾讯云行业大模型具体路径是,依托腾讯云TI平台打造模型精选商店两种服务,包括为客户提供MaaS(Model-as-a-Service)一站式服务,以及“量体裁衣、普惠适用”的行业模型解决方案。
腾讯云TI平台,是基于腾讯先进AI能力和多年技术经验,向开发者、政企提供的一站式AI开发服务平台。“精选商店”作为一种消费理念很好理解,提倡优秀、高品质的产品,强调对商品的精心挑选和甄选。
这意味着,在腾讯云的模型精选商店中,企业可以根据自身实际需求,像去精选商店购物一样,挑选Mass一站式服务,或者个性化、专业化定制的解决方案。
MaaS是云计算行业公认的未来商业模式变革,中文名是模型即服务。去年底,美国知名投资人Chamath指出,MaaS将会颠覆SaaS。今年,百度CEO李彦宏等也有类似表述,未来云计算的主流商业模式将从IaaS变为MaaS。
具体而言,作为AI时代基础设施,MaaS为下游应用提供安全、高效、低成本的模型使用与开发支持。用户可以直接在云端调用、开发与部署模型,而无需投资构建和维护自己的模型所需的基础设施、硬件和专业知识。
上述阐述略微生涩,通俗易懂的说法是,腾讯云将自己的一系列行业大模型服务,以及媒体AI中台、数智人等一整套模型服务工具链,集成在了MaaS一站式商店中,企业可以根据自己需求,进行选择。
应用建立在大模型上。基于50多个基础模型,不同行业、企业还可以只要加入自己的场景数据,就可以生成契合自身业务需要的专属模型。
比如,每个企业都可以在腾讯云MaaS中,拥有自己的专属大模型空间,既可以调用全部能力和所有“商品”,也可以结合所属行业专业性及场景需求,用自己的数据一站式训练精调,开展多模型训练任务,打造自己的企业大模型。
“无论哪种模式,都是为了解决To B千行百业搭建大模型的成本、门槛、技术、人才等难题。”有观察人士就认为,不能将腾讯云MaaS视为一个简单的“行业大模型工具”,而应视为一个AI基座型的生态开放平台。
其道理很简单,对政企等ToB行业来说,其实都需要自己的专属模型。接入腾讯云MaaS的B端生态越多,就会带来更多业务、算力训练等工作,最终形成一个生态开源平台。
得益于过去积累的庞大业务数据,以及算力基础设施,腾讯云行业大模型具备五大特点:提供高质量的行业大模型、完善的平台工具、成熟的流程服务、全面的配套服务、领先的安全能力保障。
比如,多年深耕产业互联网的经验,让腾讯云TI平台内置多个高质量行业大模型,涵盖金融、传媒、文旅、政务、教育等多个行业场景。TI-ONE平台提供的大模型全套工具链,则可以让用户客户快速进行一站式大模型精调。
从“极点商业”观察来看,做好行业大模型的逻辑,并不止技术和算力。
那就是对企业具体应用场景、服务模式,是否有深入了解。毕竟,对To B行业来说,没有Know-how的深厚积累,就很难结合相关应用场景,为政企等设计出个性、专属的Demo。
这正是腾讯云优势之一。腾讯云对政企市场布局深远,此前在IaaS层、PaaS和SaaS三个层次都具有核心技术能力。相关数据显示,截至目前服务超过30个部委、二十多个省、五百多个市县的数字化转型工作,为超11亿民众提供近三千项移动政务服务。
03
落地应用是关键,
腾讯云答卷如何?
目前,腾讯云行业大模型能力已在腾讯企点、腾讯会议、腾讯云AI代码助手等多款产品中落地使用。而外部“最后一公里”落地应用,无疑是所有大模型竞争焦点,更是外界对腾讯云布局政企等行业大模型的重要考量。
去年7月,腾讯云宣布成立政企业务线,将政务、工业、能源、文旅、农业等众多传统领域作为重点目标市场,首次进行政企业务大整合。
对所有互联网和科技企业而言,传统政企市场显然是一块难啃的硬骨头。但从目前来看,腾讯云在推出MaaS一站式行业大模型之前,其实就已有多个案例悄然落地。
比如在“数字福建”建设上的落地打造。
今年4月,腾讯云与福建大数据集团正式签署合作协议,共建“福建智力中心”项目,并助力打造互动式政务大模型应用“小闽助手”。
作为全国率先成立的省管国有全资大数据企业,福建大数据集团是“数字福建”建设主力军,负责省级电子政务网络、云、平台等系统的建设和运维。“福建智力中心”则是福建省基于大语言模型能力而打造的首个智慧政务平台。
“福建智力中心”全面依托腾讯云在数据接入、处理,模型构建、训练、评估、管理等方面的技术能力,并结合福建省政务民生的切实需求,主要面向当地政府部门、企事业单位等政务机构,提供全方位的智能化支持。
作为“福建智力中心”的重要创新成果,“小闽助手”是福建政务领域发布的首个互动式大模型应用,未来将为福建市民提供零距离、高质量、7X24小时管家式政务的办事体验。
相比传统客服应用,“小闽助手”具有更快的响应速度、更准确的服务推送和更好的用户体验——这并不容易,需要强大的算力资源的高效调度和管理,也是政企搭建专属大模型的难题之一。
背后,显然离不开腾讯云MaaS一站式服务和“量体裁衣”行业模型解决方案中,提供的强大技术支撑,算力和存储等能力。
其中,腾讯云智能AI算力调度平台为“小闽助手”提升政务互动的效率和质量;腾讯云TI平台则为其提供配套完善的训练和推理框架工具链,减少模型生成时间,提升部署效率。
上海大学与腾讯云的牵手,则是共同打造教育行业大模型的典型标杆。
基于腾讯云教育行业大模型能力,上海大学此前结合自身场景数据,通过腾讯云TI平台进行精调,构建专属教育行业大模型,计划覆盖包括在校生、毕业生全生命周期,提供咨询和问答内容,首个场景聚焦招生专业咨询和规章制度咨询。
从具体使用场景来看,在“招生专业咨询”中,学生可以通过平台向助手提问关于专业的培训目标、校企合作、就业前景、课程设置、实习基地等。 而在“规章制度咨询”场景,学生可以通过平台向助手提问关于学分、户籍、奖学金、交换生、安全管理制度等。
实际上,政企行业需求不同,痛点也完全不同。其合适的行业大模型,也就截然不同。
比如对传媒行业来说,多年下来积累海量的音视频、图片、文稿等信息资源。但过去由于缺少智能的技术手段,大多是传统人工方式做资源编目,难以满足媒体采编存管播发全流程的时效性、高质量需求。这意味着在数字化时代,媒资管理也需提升智能管理水平,才能服务媒体内容生产与传播。
面对央视总台这一痛点,腾讯云解决方案是,基于腾讯云智能媒体AI中台的行业大模型能力,帮助央视部署TI 平台原生模型服务,打造人工智能开放平台,通过引入自研“标签权重引擎”,让内容标签颗粒度更细、理解度更深、泛化性更高。在这样的数据标签体系支撑下,视频编辑用自然语言就能实现跨模态检索。
最终,重新构建了细分场景的标签体系,包括新闻、综艺、融媒体、影视剧等,关注各场景中应用价值最大的标签。同时在原本智能标签检索的基础上,通过跨模态的文本-图像理解模型,可以做到以文搜图、以文搜视频,实现跨模态检索。
又比如在金融落地上,保障安全重中之重外,某国家首批股份制商业银行的核心痛点就有两个:一是实现相关单据信息的自动化录入、匹配、分析和校对,降本增效;二是通过大语言模型打造银行专属AI助手,助力银行投资、财富管理、绿色金融等业务发展。
两大核心痛点,背后是无数复杂原因导致,一个行业大模型很难解决所有痛点,实现所有诉求。
OCR产业生态图
最终,腾讯云找到的方案是,利用OCR(光学字符识别)大模型去匹配大量单据处理场景,将识别的字段准确率提升至90%以上,更好地满足了银行业务场景的需要。OCR基于腾讯优图实验室的深度学习技术,将图片、手写的文字内容,智能识别成为可编辑的文本。
而在金融智能客服场景,则基于腾讯云金融行业大模型能力,客户结合自身场景数据,通过腾讯云TI平台进行精调,构建了专属的金融客服大模型,并进行私有化部署。
04
业界共识,
行业大模型迎来分水岭
上述只是目前腾讯云行业大模型众多应用落地中的几例,对原有模式、生产力的颠覆改变、运营效率的提升,明晰可望。那么,这是否意味着,更大规模落地应用的开端?
“政企选择接入大模型根本动力离不开四个字:降本增效。”业内人士认为,整体来看,腾讯云是从ToB/G政企端自身需求场景出发,去思考打造什么样的行业大模型。“不但要为政企等行业的大模型落地搭平台、找场景、降门槛、降成本,也需要为安全边界负责。这是大规模落地应用的基础。”
“我们期望和腾讯云等一起,推动行业构建专属大模型及智能应用的普及。”在峰会现场,多位业内人士对此表示,从大模型发展趋势看,已经形成了ToC/B、多模态场景应用并行路径,行业大模型只会越来越“沸腾”。
AI技术深度嵌入中国工业生产、高端制造各个环节,智能化、数字化转型升级成为政企等各行各业共同目标,都让外界意识到了行业大模型的巨大潜在价值。
发力行业大模型,也就成为行业共识。不止腾讯,也是微软、百度、阿里、360、科大讯飞、中国移动等大厂共同竞逐方向。有消息称微软,正在使用其Azure云服务把 OpenAI 的强大的语言生成模型引入政府机构;在国内,中国移动今年6月展出了他们的“九天”行业大模型在网络运维领域的应用。
另外,金融、教育、医疗、自动驾驶、智能物流、安防等多个领域行业公司都已相继传出要推行业大模型的消息。
可以判断的是,随着落地应用加速,行业大模型将迎来分水岭。比如MaaS将随着AI不断深入应用到各行各业,在金融、教育、医疗、交通、能源等核心领域,用MaaS+SaaS的模式,重构SaaS行业,撬动新的亿万级的市场。
比如在教育市场,腾讯与上海大学的牵手,也许就是教育行业大模型打造的开端。
针对大模型对教育行业的影响,同济大学校长、教授郑庆华表示,其将会重塑传统的教学方法和模式。这意味着,行业大模型不仅会彻底颠覆传统的师生二元结构,重塑教育产业的浪潮,还会推动中国教育信息化市场规模的攀升。
中商情报网数据显示,预计2023年,中国教育信息化市场规模为 5573 亿元,复合年增长率8.3%。这一增长速度预计会加快——因为伴随规模化与在线化行业大模型的落地,将有利于打破阶层化的教育资源,让学习真正摆脱时间和空间的限制,实现全民教育同权。
政务、工业、能源、文旅、农业等众多政企,以及制造细分领域,也被给予相同期望。显然,这会推动行业大模型和相关技术的市场规模。
比如已然成为科技巨头能力标配的OCR,已在金融、保险、医疗、交通、教育等诸多行业有深入成熟的应用。随着OCR行业模型应用范围和场景扩展,市场规模将进一步增大。有权威机构预测,2025年全球OCR市场规模将达到133.81亿美元。
这就是众多科技企业竞逐行业大模型的巨大机会——面对To B千行百业,复杂细分痛点和需求,没有一家企业能做到“完全通吃”。
所有有实力企业,都可以在不同场景应用中,利用自己优势找到自己位置,跑出更多的独角兽。比如,腾讯云在算力、软件、数据、生态上的优势,华为在芯片、系统上的优势,中国移动不可替代的网络优势。
行业迭代、商业化潜力的加速释放,又将成为助推行业大模型应用落地的“引擎”。最终在理想状态下,在脱虚向实过程中,成为人类强有力的生产力工具。
新的宏大故事画卷已经开启。实现前提,是记住马克思说的一点:事物发展,总是波浪式前进,螺旋式上升的。行业大模型的未来发展,也无任何捷径可言。
出品人:黄枪枪|直达热线 13452396140
(请标注公司、职位)
独到观点、独立态度。
见证中国商业生态进化、重塑与未来
往期精品
谁在扼住网约车司机收入咽喉
vivo要让折叠屏“差异化内卷”
梭哈大模型,阿里云成了跟风者
风口新物种,谈取代手机还太早
魅族:备货难产还是饥饿营销?