百年奥运的凌空之美,AI 云智剪背后的新算法

原创 阿里云视频云 2022-02-18 17:55

奥运赛事每天都在上演冰雪奇迹,而捕捉发生瞬间,凝结最精彩、最动人的体育人文画面,让“冰之舞”、“雪之舞”、“速度之美”、“凌空之美”如盛宴般绽放,让“金牌时刻”与“国将风采”变成永恒回荡时空。而实现这一切的,源自阿里云视频云AI编辑部提供的云上智能生产能力——AI云智剪。

如果说,2022冬奥开幕式是一场中国对世界讲述的故事,展开的是中国式的浪漫,那冬奥会的瞬间之美,更像是记载历史的青川木牍,展开的是人物和故事的不凡之巅。

北京冬奥已接近尾声,各项赛事全面而展,冰雪奇迹每日上演。此次冬奥赛事,中国代表团首次实现7个大项15个分项“全项目参赛”,其中35项是首次站上冬奥舞台,如此之多的赛事内容也为奥运的视频生产提供了丰富素材。

1.png

为了在冬奥赛事短视频内容时兼顾实效、精彩、人文、美学,央视体育新媒体和总台技术团队联合阿里云视频云、阿里巴巴达摩院,引入AI编辑部的智能生产工具“AI云智剪”,可以实时完成多赛事的智能内容理解,在极短时间内智能化自动生成大量精彩视频素材,覆盖赛场动作、赛事内容、各类镜头等多个描述维度,生成美学主题的集锦素材。

自由式滑雪女子大跳台,单板滑雪男子大跳台、花样滑冰中,中国选手苏翊鸣、谷爱凌、金博洋、隋文静/韩聪等均表现出色,无论是金牌,还是对自我的突破,其传递的冬奥精神在这个冬日里如烈火般鼓舞人心。

AI云智剪在比赛完成的第一时间就对视频内容进行了多维度解析,完成了精彩素材生成,同时基于跨视频集锦生产能力,第一时间为观众生产主题集锦视频,截至目前已经自动化处理200+场比赛,生产素材片段达3万段以上,生成的大量主题式视频在央视体育新媒体上即时呈现,迅速传播。

在体育赛事内容传播上,AI云智剪可以高效、快速、全面地为冬奥赛事播报提供强大的生产力,快速抢占发布先机,也为全球赛事观众带来及时而优质的赛事体感,同时也为媒体行业深度开发体育媒体版权内容价值,创造了更多可能性。

针对奥运赛事内容,AI云智剪设定了丰富的美学主题智能模板,如针对冰球、花滑、速滑、短道速滑等,设置主题“冰之舞”,针对单板滑雪和自由滑雪,打造主题“雪之舞”,同时,从速度型赛事的特殊视角,如花滑的旋转、冰球的进球等,呈现“速度之美”,而对于跳跃性动作丰富的滑雪赛事,塑造“凌空之美”,可谓通过智能化视频云技术,全面捕捉赛事瞬即间的美学光影。

科技冬奥的新内容生产力

AI与机器学习在体育媒体视频生产领域的应用是产业的大势所趋,随着数字化媒体的高速演进以及受众媒体内容消费习惯的持续更迭,碎片化的短视频内容已经成为各内容消费领域的主流,体育媒体内容领域也不例外。

此次冬奥会更是以科技冬奥为主旨,AI在其中的作用至关重要,基于AI编辑部,其云上智能生产能力“AI云智剪”在赛事内容生产中发挥了巨大价值,已俨然成为科技冬奥新内容的生产力。

以比赛本身为核心,AI云智剪通过对赛事内容的精彩信息进行定义、提取,从比赛视频、解说词音频、人物场记等各个维度进行识别与分析,并利用多模态融合技术,从实现复杂场景下的特色集锦效果。AI云智剪可以对体育赛事视频进行高效的AI内容分析,可以实时生成多种类型的集锦内容,除了精彩动作镜头、运动员集锦等单赛事中的重要片段以外,还支持国将风采、凌空之美、小将出征等多种复杂主题类型的集锦视频生产,实现视频内容解析、多类型视频素材生产、跨视频的复杂主题视频生成的多层级短视频生产能力覆盖。

AI云智剪依靠阿里云视频云强大的流媒体处理能力,可以保证每场比赛的精彩集锦,在3-5分钟内生成,再由平台快速发布出去,极大提升了媒体抢占先机的能力和大众尽享冬奥赛事的体感。

image.png

图1 AI云智剪流程图

如上图所示,AI云智剪的智能生产过程,主要包含两个步骤:

第一,AI模型要对赛事视频进行理解,基于在AI领域的长期积累,AI云智剪可以对多种体育赛事进行细粒度行为、赛场事件、人文事件、镜头类型的深度理解,同时对视频片段进行美学评价、动作精彩度评价、多样性评价,这等同于整个系统的眼睛和大脑,只有看得多、看得细、想得全、想得快,才可以在激烈的冬奥赛场上,为观众们尽快呈现精美绝伦的内容。第二,基于AI模型输出的各类型片段和多指标评价,素材生产模块会基于符合权重进行素材选取,生产大量精选素材,同时也输出多种主题集锦素材。

同时,为了响应绿色冬奥的主题,AI云智剪首次采用了单视频理解模型,对多赛事、多来源、多种类的视频进行内容解析、多类型视频素材生产、跨视频的复杂主题视频生成的多层级短视频生产。

该视频理解模型有三点突出的内容价值:

  • 可以对横跨自由式滑雪、花样滑冰、单板滑雪、冰球、速度滑冰、短道速滑等多个赛事中的众多细粒度动作进行识别,捕捉精彩瞬间;
  • 可以对赛事视频中的非竞技动作进行识别,感知观众的欢呼、选手的情绪、颁奖夺金等关键时刻;
  • 可以对镜头类型进行区分,进行多类型素材的智能化组合。

将完成如此多重复杂的任务重担放在一个模型里,这也对AI云智剪的AI模型泛化能力带来巨大的挑战。

冬奥云上新内容背后的新算法

通过AI云智剪呈现新内容,冬奥的云上智能生产运用了全新的智能算法技术。从本质逻辑上,AI云智剪是基于智能算法模型,对视频赛事进行解构、解析、评分,最终再基于多样性策略,以及AI模型输出的多样性评分进行智能化的视频素材生成。

正是依托前沿技术,AI模型可以在较少的计算资源需求下,实现多赛事、多来源、多种类的视频进行内容解析、集锦素材生产。

协同阿里云视频云的技术输出,阿里巴巴达摩院的算法工程师采用了阿里巴巴最新研发的预训练模型技术LOOK(该技术已经被人工智能领域顶级会议ICLR 2022录用)。相比于常见的训练方式要求所有的同类别样本特征接近于一个中心特征,LOOK可以在模型训练过程中仅要求接近的同类样本更加接近,保留更多的特征自由度。

可以认为,这是从一个“求同去异”到“求同存异”的过程改进,正因为在训练过程保留了更多的有效信息,也使得模型特征的表示能力更加通用,最终基于这一个通用表征的基础模型,构建了多个轻量级的多分枝任务模型,去完成多项任务。

因为共享了同一个基础表示模型,在计算消耗上多个任务分枝比单个任务分支增加的额外计算负担几乎可以忽略不计,但却可以和直接使用多个模型达到同样的AI能力。

正是基于这一技术,AI云智剪更快更高更强地支撑起冬奥会的短视频生产任务。

image.png

图2 预训练模型技术LOOK示意图

在使用预训练模型技术以外,由于此次冬奥会视频数据是模型“从未见过”的数据,为了保证模型的鲁棒性和计算结果的稳定性,阿里巴巴最新研发的开集识别技术NGC(已被计算机视觉顶级会议 ICCV 2021 录用为口头报告)也被引入其中。AI模型会同时利用模型预测的置信度和特征的几何结构,来共同决定最终结果,这也使得AI云智剪虽然是第一次在冬奥会上登场,但也是相当的“稳”。


image.png

图3 开集识别算法NGC示意图

此外,阿里巴巴达摩院在视频理解领域积累了大量技术,包括基础模型表征,时序特征建模、自监督表示等,通过阿里云视频云AI云智剪的能力输出,均在这次冬奥会中展露头脚,也被开源在EssentialMC2技术框架(https://github.com/alibaba/EssentialMC2)中,以此致力于推动视频内容理解领域社区的技术发展。

多次创造顶级赛事新视听

早在2018年世界杯期间,阿里云视频云AI编辑部就聚焦于利用“视频AI+云剪辑+媒资管理”的技术,实时生产精彩集锦和球星集锦,满足球迷们的重温赛事和追星的需求。

在2018年世界杯上, CCTV5采用了阿里云视频云AI编辑部的视频AI技术,实现对第一脚传球检测、回放检测、危险射门检测、犯规检测、运动轨迹分析及进攻节奏分析等,用AI技术替代了庞大复杂的高清现场制作设备,高效实时地产出赛事集锦,让精彩不容错过。

经过四年的技术锤炼和产品打磨,AI编辑部已陆续支持足球、篮球、冰壶、花样滑冰、短道速滑、滑雪等多种赛事的特色集锦和主题生产,帮助用户有效提高视频的生产效率,让内容更快速、更精彩,也更有优美之感。

冬奥赛事接近尾声,AI编辑部的视频AI技术在本次奥运会中成功落地,这是赛事应用的又一里程碑,也是视频AI应用于体育行业及更多其他行业的广阔开端。经历了对百年奥运如此大型赛事的技术保障,阿里云视频云能更成熟、稳定地应对赛事场景下的视频分析与处理,AI技术也将渗透到各个行业中,帮助行业客户高效提升新内容的生产效率,让每场赛事都拥有全然不同的新视听体验,也让赛事的人文美感由此绽放。


【AI编辑部】

作为阿里云视频云的智能媒体生产产品,AI编辑部是智能时代内容生产行业的基础设施,是可本地化交付的端到端产品。AI编辑部交付面向新媒体的智能化内容生产流水线,借助大数据技术和人工智能,实现视频稿件、图文稿件的自动化、批量化、智能化生产,从而更快、更好、更广地为抢占新媒体市场服务。

【AI云智剪】

作为AI编辑部面向体育赛事主题集锦的智能生产能力,AI云智剪能够在赛事直播过程中实时生产素材,为精彩赛事提供优质高效的短视频内容生产技术。

阿里云视频云多媒体AI体验中心

「视频云技术」你最值得关注的音视频技术公众号,每周推送来自阿里云一线的实践技术文章,在这里与音视频领域一流工程师交流切磋。公众号后台回复【技术】可加入阿里云视频云产品技术交流群,和业内大咖一起探讨音视频技术,获取更多行业最新信息。

阿里云视频云 「视频云技术」你最值得关注的音视频技术公众号,每周推送来自阿里云一线的实践技术文章,在这里与音视频领
评论
  • 随着消费者对汽车驾乘体验的要求不断攀升,汽车照明系统作为确保道路安全、提升驾驶体验以及实现车辆与环境交互的重要组成,日益受到业界的高度重视。近日,2024 DVN(上海)国际汽车照明研讨会圆满落幕。作为照明与传感创新的全球领导者,艾迈斯欧司朗受邀参与主题演讲,并现场展示了其多项前沿技术。本届研讨会汇聚来自全球各地400余名汽车、照明、光源及Tier 2供应商的专业人士及专家共聚一堂。在研讨会第一环节中,艾迈斯欧司朗系统解决方案工程副总裁 Joachim Reill以深厚的专业素养,主持该环节多位
    艾迈斯欧司朗 2025-01-16 20:51 110浏览
  • 百佳泰特为您整理2025年1月各大Logo的最新规格信息,本月有更新信息的logo有HDMI、Wi-Fi、Bluetooth、DisplayHDR、ClearMR、Intel EVO。HDMI®▶ 2025年1月6日,HDMI Forum, Inc. 宣布即将发布HDMI规范2.2版本。新规范将支持更高的分辨率和刷新率,并提供更多高质量选项。更快的96Gbps 带宽可满足数据密集型沉浸式和虚拟应用对传输的要求,如 AR/VR/MR、空间现实和光场显示,以及各种商业应用,如大型数字标牌、医疗成像和
    百佳泰测试实验室 2025-01-16 15:41 160浏览
  • 电竞鼠标应用环境与客户需求电竞行业近年来发展迅速,「鼠标延迟」已成为决定游戏体验与比赛结果的关键因素。从技术角度来看,传统鼠标的延迟大约为20毫秒,入门级电竞鼠标通常为5毫秒,而高阶电竞鼠标的延迟可降低至仅2毫秒。这些差异看似微小,但在竞技激烈的游戏中,尤其在对反应和速度要求极高的场景中,每一毫秒的优化都可能带来致胜的优势。电竞比赛的普及促使玩家更加渴望降低鼠标延迟以提升竞技表现。他们希望通过精确的测试,了解不同操作系统与设定对延迟的具体影响,并寻求最佳配置方案来获得竞技优势。这样的需求推动市场
    百佳泰测试实验室 2025-01-16 15:45 238浏览
  • 一个易用且轻量化的UI可以大大提高用户的使用效率和满意度——通过快速启动、直观操作和及时反馈,帮助用户快速上手并高效完成任务;轻量化设计则可以减少资源占用,提升启动和运行速度,增强产品竞争力。LVGL(Light and Versatile Graphics Library)是一个免费开源的图形库,专为嵌入式系统设计。它以轻量级、高效和易于使用而著称,支持多种屏幕分辨率和硬件配置,并提供了丰富的GUI组件,能够帮助开发者轻松构建出美观且功能强大的用户界面。近期,飞凌嵌入式为基于NXP i.MX9
    飞凌嵌入式 2025-01-16 13:15 201浏览
  • 数字隔离芯片是现代电气工程师在进行电路设计时所必须考虑的一种电子元件,主要用于保护低压控制电路中敏感电子设备的稳定运行与操作人员的人身安全。其不仅能隔离两个或多个高低压回路之间的电气联系,还能防止漏电流、共模噪声与浪涌等干扰信号的传播,有效增强电路间信号传输的抗干扰能力,同时提升电子系统的电磁兼容性与通信稳定性。容耦隔离芯片的典型应用原理图值得一提的是,在电子电路中引入隔离措施会带来传输延迟、功耗增加、成本增加与尺寸增加等问题,而数字隔离芯片的目标就是尽可能消除这些不利影响,同时满足安全法规的要
    华普微HOPERF 2025-01-15 09:48 184浏览
  • 80,000人到访的国际大展上,艾迈斯欧司朗有哪些亮点?感未来,光无限。近日,在慕尼黑electronica 2024现场,ams OSRAM通过多款创新DEMO展示,以及数场前瞻洞察分享,全面展示自身融合传感器、发射器及集成电路技术,精准捕捉并呈现环境信息的卓越能力。同时,ams OSRAM通过展会期间与客户、用户等行业人士,以及媒体朋友的深度交流,向业界传达其以光电技术为笔、以创新为墨,书写智能未来的深度思考。electronica 2024electronica 2024构建了一个高度国际
    艾迈斯欧司朗 2025-01-16 20:45 150浏览
  • 近期,智能家居领域Matter标准的制定者,全球最具影响力的科技联盟之一,连接标准联盟(Connectivity Standards Alliance,简称CSA)“利好”频出,不仅为智能家居领域的设备制造商们提供了更为快速便捷的Matter认证流程,而且苹果、三星与谷歌等智能家居平台厂商都表示会接纳CSA的Matter认证体系,并计划将其整合至各自的“Works with”项目中。那么,在本轮“利好”背景下,智能家居的设备制造商们该如何捉住机会,“掘金”万亿市场呢?重认证快通道计划,为家居设备
    华普微HOPERF 2025-01-16 10:22 178浏览
  • 晶台光耦KL817和KL3053在小家电产品(如微波炉等)辅助电源中的广泛应用。具备小功率、高性能、高度集成以及低待机功耗的特点,同时支持宽输入电压范围。▲光耦在实物应用中的产品图其一次侧集成了交流电压过零检测与信号输出功能,该功能产生的过零信号可用于精确控制继电器、可控硅等器件的过零开关动作,从而有效减小开关应力,显著提升器件的使用寿命。通过高度的集成化和先进的控制技术,该电源大幅减少了所需的外围器件数量,不仅降低了系统成本和体积,还进一步增强了整体的可靠性。▲电路示意图该电路的过零检测信号由
    晶台光耦 2025-01-16 10:12 97浏览
  • 全球领先的光学解决方案供应商艾迈斯欧司朗(SIX:AMS)近日宣布,与汽车技术领先者法雷奥合作,采用创新的开放系统协议(OSP)技术,旨在改变汽车内饰照明方式,革新汽车行业座舱照明理念。结合艾迈斯欧司朗开创性的OSIRE® E3731i智能LED和法雷奥的动态环境照明系统,两家公司将为车辆内饰设计和功能设立一套全新标准。汽车内饰照明的作用日益凸显,座舱设计的主流趋势应满足终端用户的需求:即易于使用、个性化,并能提供符合用户生活方式的清晰信息。因此,动态环境照明带来了众多新机遇。智能LED的应用已
    艾迈斯欧司朗 2025-01-15 19:00 78浏览
  • 食物浪费已成为全球亟待解决的严峻挑战,并对环境和经济造成了重大影响。最新统计数据显示,全球高达三分之一的粮食在生产过程中损失或被无谓浪费,这不仅导致了资源消耗,还加剧了温室气体排放,并带来了巨大经济损失。全球领先的光学解决方案供应商艾迈斯欧司朗(SIX:AMS)近日宣布,艾迈斯欧司朗基于AS7341多光谱传感器开发的创新应用来解决食物浪费这一全球性难题。其多光谱传感解决方案为农业与食品行业带来深远变革,该技术通过精确判定最佳收获时机,提升质量控制水平,并在整个供应链中有效减少浪费。 在2024
    艾迈斯欧司朗 2025-01-14 18:45 136浏览
  •   在信号处理过程中,由于信号的时域截断会导致频谱扩展泄露现象。那么导致频谱泄露发生的根本原因是什么?又该采取什么样的改善方法。本文以ADC性能指标的测试场景为例,探讨了对ADC的输出结果进行非周期截断所带来的影响及问题总结。 两个点   为了更好的分析或处理信号,实际应用时需要从频域而非时域的角度观察原信号。但物理意义上只能直接获取信号的时域信息,为了得到信号的频域信息需要利用傅里叶变换这个工具计算出原信号的频谱函数。但对于计算机来说实现这种计算需要面对两个问题: 1.
    TIAN301 2025-01-14 14:15 171浏览
  • 随着智慧科技的快速发展,智能显示器的生态圈应用变得越来越丰富多元,智能显示器不仅仅是传统的显示设备,透过结合人工智能(AI)和语音助理,它还可以成为家庭、办公室和商业环境中的核心互动接口。提供多元且个性化的服务,如智能家居控制、影音串流拨放、实时信息显示等,极大提升了使用体验。此外,智能家居系统的整合能力也不容小觑,透过智能装置之间的无缝连接,形成了强大的多元应用生态圈。企业也利用智能显示器进行会议展示和多方远程合作,大大提高效率和互动性。Smart Display Ecosystem示意图,作
    百佳泰测试实验室 2025-01-16 15:37 172浏览
  • 实用性高值得收藏!! (时源芯微)时源专注于EMC整改与服务,配备完整器件 TVS全称Transient Voltage Suppre,亦称TVS管、瞬态抑制二极管等,有单向和双向之分。单向TVS 一般应用于直流供电电路,双向TVS 应用于电压交变的电路。在直流电路的应用中,TVS被并联接入电路中。在电路处于正常运行状态时,TVS会保持截止状态,从而不对电路的正常工作产生任何影响。然而,一旦电路中出现异常的过电压,并且这个电压达到TVS的击穿阈值时,TVS的状态就会
    时源芯微 2025-01-16 14:23 152浏览
  • 日前,商务部等部门办公厅印发《手机、平板、智能手表(手环)购新补贴实施方案》明确,个人消费者购买手机、平板、智能手表(手环)3类数码产品(单件销售价格不超过6000元),可享受购新补贴。每人每类可补贴1件,每件补贴比例为减去生产、流通环节及移动运营商所有优惠后最终销售价格的15%,每件最高不超过500元。目前,京东已经做好了承接手机、平板等数码产品国补优惠的落地准备工作,未来随着各省市关于手机、平板等品类的国补开启,京东将第一时间率先上线,满足消费者的换新升级需求。为保障国补的真实有效发放,基于
    华尔街科技眼 2025-01-17 10:44 131浏览
  • 故障现象 一辆2007款法拉利599 GTB车,搭载6.0 L V12自然吸气发动机(图1),累计行驶里程约为6万km。该车因发动机故障灯异常点亮进厂检修。 图1 发动机的布置 故障诊断接车后试车,发动机怠速轻微抖动,发动机故障灯长亮。用故障检测仪检测,发现发动机控制单元(NCM)中存储有故障代码“P0300 多缸失火”“P0309 气缸9失火”“P0307 气缸7失火”,初步判断发动机存在失火故障。考虑到该车使用年数较长,决定先使用虹科Pico汽车示波器进行相对压缩测试,以
    虹科Pico汽车示波器 2025-01-15 17:30 95浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦