都说,教育是立国之本,强国之基。在2024年两会期间,“新质生产力”一词首次被郑重写入政府工作报告……在这一背景下,教育作为社会进步和创新的基础性力量,其自身的“新质生产力”内涵也更成为了时代的焦点。
另一方面,教育部学校规划建设中心也早在2013年就启动了“未来学校研究与实验计划”,聚焦基础教育领域未来学校(即数智时代的新型学校)的形态变革。
英特尔OPS规范及其后继OPS 2.0的推出,正是顺应这一变革的真实写照。
纵观整个教育信息化的过程,其实就像IT行业的发展一样,有着波澜壮阔的历史,英特尔中国区市场营销集团网络与边缘技术支持总监王景佳在英特尔AI教育峰会暨OPS 2.0全球发布活动上谈到。
过去,我们所常见的教室数字化没有标准,都是“各种DIY或将全世界公司的品牌与一个五花八门的显示屏混搭起来”。这会带来各种各样的问题,比如线缆很多、故障很多、内容管理很复杂。
为了解决这个问题,英特尔推出了OPS(开放式可插拔规范)解决方案。OPS的引入带来了很多优势,如可插拔、模块化和易维护等,这些特点使得基于OPS的教学设备在过去十年在中国及全球范围内得到了广泛的部署和应用。如今,OPS已成为教育领域的基石,发挥着至关重要的作用。鉴于此,“英特尔也与业界伙伴携手,共同推动OPS技术的进一步发展和完善”。
OPS其实是在教育行业最先落地,截至目前已经在包括交互式平板、投影、智慧黑板、一体机等各种各样的边缘设备上得到了大量部署,提供了丰富的AI算力,以及教学、远程视频、远程课堂录播等各种各样的功能,并在教育、会议、医疗包括企业里得到了大量应用,这也进一步夯实了OPS的生态,使得OPS的发展进一步加速。
全新可插拔计算模块OPS 2.0——为教育行业下个十年发展提供支撑
随着技术和社会以及人工智能的发展,现在的教育信息化对IT设备提出了新的要求。怎么样把AI芯片应用到教育设备当中,并赋能整个教育发展,这也是摆在大家面前的热门话题。基于这样的考虑,英特尔认为,教育其实可以分为两个词——教书、育人。“AI技术可以有效帮助老师从过去比较传统的繁重工作当中脱身出来,更多关注于学生。AI技术也可以使老师和学生更加高效地互动,从而得到教学相长。借助AI技术,我们还可以使整个学校做到因材施教,从而达到我们教育的目标。”王景佳说。
基于此,不管是交互式平板还是OPS设备,都需要做出改变。
目前,从技术角度来说,整个交互式平板和OPS发展分为三个层面:
第一,随着AI技术的引入,传统的交互式平板已经从以显示为主,变成一个助力教师实现众多教育工作的重要工具。许多重要教育工作都是基于教学互动平板来开展的。
第二,更多的师生协同,要求更加自然的视频和书写体验,真正做到即看即所得、即写即显示。这在过去一段时间里,也是业界努力的一个方向。
第三,随着技术的发展,需要对这些IT设备预留足够的扩展接口,为将来的技术和产品部署提供支撑和能力。
现在,是时候推出OPS 2.0技术来支持教育行业下一个十年的发展了。
据介绍,OPS 2.0从三个层面对以前的产品做了升级或者重构:
第一,算力层面,OPS 2.0支持英特尔全新CPU和GPU等众多产品,包括最近非常热门的酷睿Ultra处理器。酷睿Ultra处理器是英特尔第一个集成了CPU、GPU和NPU在内的高效AI产品,可以凭借超强算力轻松驾驭200亿参数的大模型,这对于将IT应用到教育场景可实现足够的算力支撑。
第二,支持最新的Arc系列GPU。Arc系列GPU相比于2023年基于英特尔酷睿13代处理器的OPS设备,渲染能力提升了1.9倍,这就使得整个图形更加绚丽,视频更加流畅。与此同时,OPS 2.0还提供了扩展能力,支持独立显卡和加速卡,为整个算力发展提供了基石。此外,在图形显示方面,由于HDMI 2.1的支持,OPS 2.0可以支持最高8K 60Hz的图形显示。由于eDP1.4技术,还可以提供非常低的书写时延。
第三,在IO层面,OPS 2.0可以支持包括PCIe 4.0和USB 3.2在内的最新高速IO接口,这为整个数据的传输搭建了一个高速公路,使整个数据的传输更加迅速。
此外,他特别强调,在OPS 2.0提供更强大的算力、更好的散热设计和更好的系统性设计的同时,它还比前一代做得更加小巧。在主机厚度上,从42mm降到了35mm,即28%的下降。这样,基于OPS的更多设备——不管是平板设备还是其他设备,都可以做到集成度更高、更加美观,这也是其中一个很显著的变化。
总结来说,在算力、显示和IO等各个层面,OPS 2.0相比前一代都做了极大升级。这为推动AI和其他众多IT技术在教育行业以及其他行业进行大规模部署提供了基石。
视源股份:商用显示的发展方向及OPS 2.0对智能交互平板的促进作用
在视源股份(CVTE)整机BG研发总监林治印看来,目前商用显示的发展有几大方向:一是更好的显示效果;二是更多的外围设备;三是更强的软件功能。
显示效果又分为三个方面:更高的清晰度;更高的刷新率;更好的图像处理算法。“从人眼的角度来看,目前的显示效果远未达到极限,特别是站在最前端的时候,8K就可以达到类似视网膜屏的效果,使你的显示更清晰。目前的刷新率最多支持到120Hz,这对书写延迟和人眼延迟的感知都会有非常好的提升。图像处理算法方面,除了现有的和电视相关的图像处理之外,OPS还可以提供更丰富的算力去支撑更厉害的图像处理算法”。
大家知道,大屏即将成为我们智慧空间的入口。成为入口之后,还有很多接口需求。比如有更多人工智能设备的接入。摄像头是大屏的眼睛,音频设备是它的耳朵,喇叭是它的嘴巴。它跟人类的交互就会有更多视听视频流的接入,可以达到更好效果。另外,大屏的方案设计也更加一体化。英特尔的eDP接口可以提供更多的系统方案设计思路,在一体性和简洁性上带来了更好的方案。
在软件功能部分,当AI大模型在端侧部署时,OPS系统就会成为端侧大模型的主要载体,提供更好的交互体验。从交互智能平板最开始的不好用,到最后的越来越好用,到更未来,“它应该变成我们伙伴一样的存在,去跟我们一起完成我们的教学体验,这一类的交互体验才是最自然的交互方式。”林治印认为。
从显示效果来看,从最开始的2K到4K再到8K,清晰度是逐步提升的,刷新率的部分也是逐年的提升。甚至游戏行业里有300Hz的超高刷新率,让我们看到的东西和自然界的东西感觉不到明显区别。“我们的算法也层出不穷,比如在超分、AI自适应部分已经在图像上大规模使用,这部分对算力、对处理器有更高的需求”。
在外设部分,我们的教室里面从以前单独的显示屏,到增加触控单元,到最后还有外围的教师机去做录播,还有学生的麦克风去拾取学生发言的信息。甚至有一些环境传感器也加入进来,监测整个教室的环境是否适应,光线是否是最舒适的状态。所以,在最全面的音视频外设接入,以及更丰富的传感器,还有书写体验更加精细化之下,外围设备接入会越来越多。
另外,视源推出了课堂观察的方案,这就意味着更高的算力需求,因为这涉及到教师机一堂课的视频信号处理,还有对学生的数据实现长达40分钟的视频输入。“在这里面,我们就会有很多的应用呈现给老师,通过大模型的计算及反馈,给老师带来不一样的体验。这方面对算力的要求也在逐年提升,比如我们的大模型已经到70亿级别的参数”。
在大模型的部分,其实还有很多的小模型在应用,比如在事件检测部分,有图像分类以及目标检测和姿态估计等很小的视觉算法。这些视觉算法以前通常都是放在摄像头采集的ISP端,随着OPS算力的提升,所有的算法都可以在英特尔的OPS芯片上去完成。这对于整个交互体验、计算速度以及简洁性都会有非常好的帮助。
从OPS的变化来看,接口会有三大变化。一是显示接口从eDP1.4、HDMI2.1,能够带来更高的刷新率跟更高的分辨率。二是对外的接口甚至增加了PCIe 4.0,这对数据传输以及音视频外设控制、音视频模块一体化等都可以带来不一样的变化。最后是酷睿Ultra芯片的算力提升也能带来不一样的变化。“从这三个部分来说,OPS能带来的效果就是更高的刷新率、更高的显示分辨率,以及在设计上支持OPS直接去驱屏,给设计带来更简洁的模式。另外,其图像处理能力也可以带来飞跃的提升”。
视源股份和英特尔联合开发过非常多的图像算法,直接可以绕过TV的SOT驱动,运行在英特尔的芯片上。在外围设备上,视源的一体化方案设计可以带来更好的数控效果。另外,更低的音视频延时,特别是在会议行业,也可以满足会议系统对音视频越来越高的延时要求,比如从以前的200+ms,到现在的100+ms。OPS 2.0所提供的这些外设接口带来了数据流量的变化,可以直接把音视频设备推到视频会议系统上,给视频会议系统带来不一样的设计方案。
在软件功能方面,上述所有的AI应用都可以在酷睿Ultra上实现。大模型的端侧部署也能够在35TOPS的算力上得到提升。另外,音视频算法的OPS端也能做更多的部署。这些都会在接下来一两年内实现大规模爆发。
德晟达基于英特尔OPS 2.0的创新
德晟达作为以英特尔x86架构为主的硬件设计和生产ODM厂商,为品牌客户提供硬件解决方案和软件中间件。此次,该公司承担了英特尔OPS 2.0全球规范的硬件原始参考设计工作。
深圳市德晟达电子科技有限公司副总经理彭元涛分享了德晟达基于英特尔OPS 2.0的创新。
全新OPS 2.0优化后的设计使其具备了更好的兼容性、扩展性和可靠性,同时更新的计算架构具备了更高更强的算力。“我们的竞争力不仅局限在上面的硬件参数和价格上,更多还会考虑客户的环境适应性和用户体验。”彭元涛指出,“比如,OPS在教室的场景,学生比较多,粉尘比较严重,这时就会考虑风扇设计的冗余和寿命。在会议室的场景,会议室比较小,就会比较关注静音。OPS的出厂就有自己的测试标准,我们通常会做到1米34dp的要求。同样,在教学场景,我们看到老师更多采用PPT教学,负载都在CPU上。在视频会议做视频编解码,负载更多在GPU上。所以,我们在BIOS层面做了针对算力和功耗的负载均衡。当然,我们做视频会议的时候也可以接USB外设。我们的USB 3.2已经达到了10G带宽,解决了延时的问题。”
在移动平台上,德晟达还加入了eDP的通道,可以接传感器,和CPU直接通信。“这种情况下,我们可以做到更低的成本。同时它可以直接发挥CPU的算力。我们还可以通过TCC技术解决HDMI中的延时优化”。
在会议的场景当中,很多时候是采用双屏或三屏。“我们可以去实现多HDMI的CEC控制,同时针对不同的硬件去自适应”。
英特尔其实也推出了很多像MediaSDK、OpenVINO这样的软件工具。德晟达很好地吸收这些软件工具,把它做成API的接口,供上层的应用去调用,解决视频编解码的优化和AI算力的问题。
同时,德晟达全系列的OPS都支持英特尔的vPRO AMT主动管理技术。通过后台就可以进行对设备的主动管理,去做远程诊断、事故报警/恢复,甚至可以通过远程恢复操作系统,恢复上层的应用软件,实现资产的管理,这都是我们具备特殊竞争力的地方,彭元涛强调。
“我们看到,OPS本身就具备了35TOPS的算力,但是同时我们可以通过PCIe去拓展加速卡,实现更大加速力的扩展”。微软提出,下一代操作系统对AI算力的要求将超过40T,大模型在课堂教学中可以实现学生的监测分析和AI辅助教学。AI辅助教学可以对学生的日常行为进行有效采集和深度分析,精准定位每个学员的知识掌握程度,以便助教老师根据学生的特点去制定个性化的学习方案。同时,电子白板有AI加持,就具备了多模态的理解和推荐,全自然的交互以及虚拟的辅助教学,还有智慧化录播和分享的特征。
当然,光课堂教学还是不够的,还需要实现课后、课前的联动,这样老师就可以通过大模型集合教学资源和教学工具,更好进行课程的设计和管理,这能够极大提高其工作效率,彭元涛指出。
在课后,我们看到在国外,电子书包是非常普遍的,而在国内因为政策原因,以及家长支持的原因,没有那么普遍。但是,学习机也很好地解决了这个问题,大模型可以部署在学习机上,以更好了解每个学生的学习风格,精准判断其学习掌握情况,为其量身定制学习内容,个性化的及时反馈,做到因材施教,提高学习效果。
当然,只有打通课前、课中、课后等全链路场景,才可以实现精准教学、学情分析和个性化学习,包括测评评价等多方面的融合,让人工智能技术实现高效智慧课堂的教与学。
OPS不仅可以应用在教学场景,还有比较广泛的行业应用。强大的3D性能结合虚拟现实,VR可以走进课堂,改变传统授课方式,身临其境地提高教学新体验。
在视频会议场景,依托高性能处理器,结合音视频的编解码能力,多任务处理能力、可扩展以及办公系统的整合能力,打造流畅、快速、灵活、稳定且兼容的智慧会议解决方案,满足当下企业与个人的办公协同需求。以AI赋能构建未来的办公场景。
在医疗影像方面,因为有AI的加持,可以用最新架构的能力,对医学影像进行快速的阅片和诊断,以解决病灶的识别和标注等多种医学影像的需求,使医学影像的采集和输出更加精准、高效。同时我们也可以应用在数据可视化场景。比如,在医院,可以去帮助院长运维整个医院的整体情况。也即,通过OPS强大8K的显示,以及叠加数据孪生,将数据统一归类,通过VR、全景、3D、2D、视频、即时等多种方式的整合,实现一张图、一平台、所见即所得的精细化管理。
英特尔教育AI大模型介绍——“人工智能+”是校园IT信息化装备的发展方向
英特尔中国区市场营销集团网络与边缘技术支持经理夏耿分享了英特尔在OPS发展方向上的一点思考。
他指出,可以用计算机的发展历程——有三个大的发展阶段——为未来OPS的发展方向提供参考。“计算机早期就是一个办公工具,被应用在办公场景,甚至是一些高端办公场景。随着计算机每单位计算算力成本的下降和互联网的普及,计算机从办公走向了娱乐,使它成为了一个办公和娱乐的工具。近几年来,CPU的算力大幅度提升,并且人工智能的算法急剧发展,整个PC端已经纯粹从一个工具或传统的PC迈向了AI PC时代,PC也会从工具迈向一个助手的时代”。
那么,整个校园的IT化信息装备应该怎么样去发展呢?“我们认为,IT信息化装备也是一种计算工具,它和主流的计算机发展历程是接近的。所以,我们坚定认为,‘人工智能+’就是校园IT信息化装备的发展方向。”夏耿指出。
怎么样在校园里部署人工智能算力更加合适呢?英特尔认为校园有几大特点:
首先,中国的课堂只有40或45分钟,教学任务是按照整个时间来设计的,每一分钟的设计都不应该被浪费。因此,它的人工智能算力要非常强大,要求延时极低,即点即用,马上能够给老师和学生反馈出来。
其次,中国的教育规模十分庞大,在中国有超过20万所的中小学校,有超过400万间的教室,有超过1000万名老师。因此,未来的大规模普及,成本是一个重要因素。“我们认为人工智能算力的成本不能太高,要相对可以接受”。
第三,人工智能算法可以针对中国教育不同的年龄段、不同的年级、不同的学科去做定制。
最后,在校园里面,学生的隐私和老师的隐私能够受到尊重,针对学校的资源能够做到很好的保护。“所以,我们认为不管是数据还是算法都不应该出校园,绝大部分的人工智能算法都应该部署在校园侧。站在英特尔和合作伙伴的角度,我们大胆预测,人工智能算法在校园里的部署,应该在设备和边缘侧部署,这样的部署更加适合中国校园部署的情况。”夏耿指出。
针对这几方面,英特尔有什么样的方案呢?
首先,针对设备,英特尔有全新的酷睿Ultra处理器。这个处理器在去年的12月15日针对全球做了发布,相对以往其他的CPU有一个最大的不同,就是在传统的CPU和GPU架构上增加了第三个处理器单元NPU神经网络处理单元,专门针对AI算法进行优化。在性能提升的同时,功耗更低,更加适合部署在一些通用设备上。并且,它在运行人工智能算法的时候,算力高达35TOPS,能够运行高达200亿参数的大语言模型,而传统的人工智能算法往往只有几百万的参数。 从效果来看,运行大语言算法的时候,每秒输出的文字高达21.6个,已经超出了正常人类阅读的速度。在生图上,1秒钟能够产生一张512×512的图片,6秒能够产生一张1024×708的高品质图片。
其次,在校园侧,英特尔有什么样的产品呢?有全新的至强Max处理器。
“相比传统的至强处理器它有一个非常大的差异,就是在处理器上集成了64GB的高带宽内存,每秒的交换速度高达1Tb/s,更加适合运行大语言模型,能够支持高达330亿参数的大语言模型。这个处理器更加适合运行在边缘服务器上。接下来英特尔会和我们的合作伙伴,把酷睿、至强Max应用在我们的设备和服务器上,将人工智能带进学校,赋能老师、赋能学校管理层、赋能学生。”夏耿说。
希沃AI教育大模型及四个环节的深层应用
回顾过去,教育信息化为我们带来了两个方面的改善:
第一,内容能力的增强。过去老师要获取一些能力,比如教学资源,非常依赖于老师个体或学校的储备。当电子信息化之后,最起码通过投影幕布(即所谓的信息化1.0时代)可以很容易获取到多媒体的资源。此外,老师上好一堂课的核心在于重难点有没有讲好,以及课程的推进是否符合预期及教学设计。
第二,在一场教学活动展开之后,信息化在部分环节发生了优化和调整。比如,希沃大屏这个产品在进入到学校之后使授课的交互形式发生了变化。老师从过去的只能翻阅PPT,到现在可以操控大屏,以及实时调动资源的生成,甚至把学生邀请到大屏前做交互操作。课程展开的形式发生了变化,导致教学目标和学生参与度发生了变化,这也就是所谓一堂课的局部发生了调整。
那么,AI来了会发生什么?在视源股份教育BG商用显示事业部总经理黄柏林看来,AI加上教务、教学,让我们有机会去重构一节课从设计到成果的达成。怎么才能达到这个目的?“我们认为还是要回归到人的成长。这包括两个方面:一是老师专业发展,二是辅助学生最终获得感的成长”。
据介绍,在过去的实践里,希沃的服务已经覆盖了超过260万间教室,已有大量老师在使用希沃白板软件。在这个平台里,已经累计产生了8亿份课件,每一分钟还有1000份课件被生产出来。18万所学校在使用希沃的一体机和希沃白板的软件。
过去,要谈基础设施服务器这个话题,应该说在2020年之前已经彻底告一段落了。“教育的根本性矛盾已经不是改善它的基础环境设施建设,而是充分从上游阶段过渡到如何优质均衡、教育公平。”黄柏林指出。
怎么去解决这个问题呢?希沃的观点是,要解决教育均衡,首先接入点是老师的成长。有一句话叫“强教必须先强师”。老师的成长过程可归纳为五个点:
通过走访非常多的学校和教育工作者,希沃提炼出了教学设计的全流程。这其中有非常多的多模态数据,通过AI的方式可以组织起来,并让它生效。
希沃在过去也做了一些实践,包括去年10月份发布了自研的教学大模型。“其实在去年10月份之前是没有好的解决方案的,于是我们100多个研发工程师加上20个博士投入到这个项目当中,完成了这个大模型的研发。”黄柏林说。
这个模型的背后又有一个更深层次的应用。“模型不会解决问题,只有它应用才能产生效果,所以它背后有一些应用”。这其中包括四个环节,黄柏林重点介绍了前三个。
第一个小助手是备课助理,就是希沃白板(现在叫授课端),当返回到备课界面,在老师的PC上看到的界面更像PPT当中呈现的状态。“我们在备课环节不是替代老师,而是帮助老师在原有基础上去提效,并启发老师获得更好的灵感,这是我们的初衷。”他强调。
第二个环节是教学研讨助理。有了内容就要开始研讨和打磨,这就是线上打磨的部分。通常在线研讨会需要一个PPT或Word文档,有大量的老师线上去对材料做讨论。教学研讨助理可帮助对会议讨论做总结以及摘要性的提示。
“去年的上半年,我们发布了希沃教育教学一体机。看起来很像一台电脑,但是它是电脑又不是电脑,它是我们专门为老师定制的,里面搭载了全套的AI能力,这是我们做这款电脑的初心。我们是围绕教学场景去定义这款PC,而不是为了做一台电脑而做一个硬件。”黄柏林说。
第三个是课堂反馈助理。进入到课中,通常老师都会讲45分钟,其实并不是。“正常老师讲授的状态,理想状态是15分钟左右,甚至好的话可以更少。而学生应该是互动,或者是启发、探究,应该占15至20分钟。剩下的可以做巩固、回顾以及布置作业、总结。一堂课的设计是非常紧密、严谨的,且是层层递进的。”
“老师上完课后,靠什么去回顾这堂课上得好不好?条件好一点的可以靠录播,比如把摄像头架起来,把整节课录下来。但是大部分的教师不具备这样的能力,于是我们提供了这样的能力。一体机预置的摄像头,以及后置的摄像头,可以通过AI把一节课完全采集下来,并生成报告……”
总结
综上所述, OPS作为目前大屏计算中的行业规范,具有可插拔性和易于维护等优点。新的OPS 2.0相比1.0又具有很多优势,例如可扩展性和可以加AI独立显卡,因此未来将衍生出很多的应用场景。现在,不管是教育、视频和医疗领域都提出了AI需求,因此它在可扩展性方面可以增加具备AI能力的GPU。在很多场景需要视频采集卡,因此OPS 2.0也增加了更多像PCIe这种接口。另外传输效率变高了,比如USB 3.2,可用于更高效的摄像头并使延迟降低。它针对很多在未来会议或教育场景里所需要的性能、扩展性及规格上的需求,都做了很多更新。
从过去的迭代来看,8K和AI终将在行业落地。在这样的条件下,就需要支撑更大的传输带宽、更快的速度、更高的算力。OPS 2.0不仅解决了当下的问题还考虑了未来场景,所以能够促成在教育环节,比如在课堂里植入教育行业大模型,去做学情监测、辅助教学、虚拟助教,以及全自然语言的交互。在会议的场景里,去做会议纪要的总结和记录,实现主讲者的追踪。还可以延伸到医疗场景,去做病灶的侦测和处理,给医生提供参考建议,并对基层医院提供远程医疗方式的帮助,实现仅仅靠传统视频会议无法做到的事情。