在AI项目的部署阶段,客户关注的核心问题是能否利用较少的计算资源(即更低的算力)实现模型推理。这不仅涉及对现有算力和算法的优化和提升,还要求降低能耗和功耗……

从手机语音助手的迅速普及到ChatGPT的惊艳亮相,AI模型因其强大的数据处理能力和多模态推理能力而受到广泛关注,成为了全球科技产业最热门的词汇。目前,全球AI大模型数量已经超过1300个,小模型更是不计其数。

随着数据量的不断增加和计算能力的不断提升,AI模型的能力也在持续提升。模型规模,例如参数数量和网络层数等指标不断刷新,,极大增强了AI模型处理复杂问题的能力。

多模态融合技术的发展为AI模型注入了新的活力,其可以提供更丰富的信息,包括文本、图像、音频等,进一步提升模型的表现能力。在工业智能领域,该技术的应用正引领工业质检的智能化发展,而边缘计算技术的深入应用更是为工业质检的高效与精准提供了强有力的支撑。

宝维塔专注工业智能

在日前举办的“2024高通&移远边缘智能技术进化日”上,移远通信工业智能品牌宝维塔™ (ProvectaAI)正式发布,其旗下核心产品——AI算法平台「匠心」、可视化部署工具「匠准」,以及AI视觉解决方案同步推出,为工业智能化发展注入了新的动力。

其中,宝维塔™AI视觉解决方案是宝维塔™融合边缘计算、智能算法、机器视觉等技术所打造,包含“边缘技术盒子+工业智能相机+「匠心」及「匠准」平台”,该方案能够帮助客户实现设备的图像采集筛选、数据标注处理、模型训练、测试、部署和硬件设备管理等一站式全流程功能。

移远通信高级副总裁徐大勇(中)、天翼物联科技有限公司物联网研究中心总经理徐敏捷(左二)、高通公司高级销售总监金骏(右二)、移远通信副总经理兰世桂(左一)、高通公司产品市场总监李大龙(右一)共同参加宝维塔™品牌发布仪式

据介绍,宝维塔™AI视觉解决方案采用了移远通信5G边缘计算智能模组SG560D,该模组搭载高通QCM6490平台,配备高性能八核64位处理器,内置高通AdrenoTM643 GPU,并采用专用NPU,综合算力高达14 TOPS,同时支持5G&LTE MIMO、Wi-Fi 6E&DBS、蓝牙5.2以及Wi-Fi 2×2 MU-MIMO技术。

AI模型开发的五大步骤

AI模型的开发,一般来说可以分为模型开发和模型推理部署两个环节。

模型开发主要涵盖以下三步,第一步是数据分析和数据标注,根据数据特点,确定检测类型,然后进行数据标注;第二步是模型选择,根据精度和算力需求,结合终端实际能力,选择合适的算法模型;第三步是训练框架选择和模型训练,通过训练得到和特定场景适配的网络和参数。

需要指出的是,模型选择中对算力和精度的限制,实际上主要涉及模型的参数,模型的参数量越大,智能程度越高,效果通常也越好。但实际上,ChatGPT这类大模型虽然是人工智能领域的集大成者,相当于博士生级别的能力,但这类大模型并不适合部署到终端侧。相比之下,更适合在终端侧部署的“小模型”可能只具备部分专有能力,但其“小而专”的特点让它们能够轻松融入各种终端设备中。

在实际的AI项目中,选择合适模型至关重要,需深入了解其能力边界及适用场景。例如,在传统的计算机视觉(CV)检测中,人们往往对模型参数量的敏感度不高。

模型部署主要涵盖第四步模型转化和第五步模型部署。其中,第四步指的是通过模型转换,得到和推理匹配的网络和参数。以英伟达平台为例,在服务器端训练完成后,如果要部署到端侧,就需要考虑不同的硬件平台,将模型转换为适合部署的格式。第五步指在硬件中植入相应的推理框架,然后导入模型。

完成这五步操作后,AI模型便可以应用于特定场景的推理。

移远AI算法平台——匠心

目前,人工智能技术虽然在算力底座、算法、技术等方面达到了阶段性的成熟,然而,在推进其商业化落地的进程中,仍然面临着人才短缺、开发成本高等重重挑战。

若某行业的技术门槛过高,往往会导致应用难以推广,进而阻碍行业闭环的形成。为解决AI部署的复杂性和繁琐性,伴随着人工智能技术的不断成熟和普及,一站式AI开发平台应运而生。这类平台旨在通过提供从数据标注、模型选择、模型训练到模型转换和部署的一站式服务,简化AI方案的开发流程,降低技术门槛,促进AI技术在各行各业的广泛应用。

宝维塔「匠心」解决了AI模型开发的常见问题

作为宝维塔™旗下的AI模型训练平台,「匠心」创立的初衷在于分享企业内部累积的丰富经验和行业洞察,并结合移远在真实应用场景的经验和技术优势,将其转化为可直接应用于客户的工具。

在产品设计过程中,“少即是多”(Less is more)的理念意味着不要盲目追求功能堆砌,而是要深入理解用户的真正需求,并运用最少的功能和最简洁的操作方式去满足。据介绍,「匠心」具备数据上传、数据标注、模型训练、模型测试、模型发布等全流程功能,具有推理性能强大、功能丰富、高效便捷、简单易用等特点,能够为企业提供一站式、低成本、低门槛的AI模型训练与部署,推动AI技术便捷高效落地。

例如,在某个场景下,客户不知道选择哪个模型来进行训练,一个个尝试的代价就比较大。因此,宝维塔™为一些特定场景提供优化过和裁剪过参数的模型供客户使用,客户拿到模型后不需要做任何设置,可以直接进行训练。此外,移远还提供“半成品”模型,这类模型已经使用了一部分的数据进行训练,完成度达到40-50%,客户可以根据实际场景数据进行增量训练,便可以用于正常的推理场景,大大节省了成本。

除了丰富的功能,「匠心」还具备多重优势。其一是引入亚像素分割技术。无论使用CCD、CMOS相机,还是胶卷底片拍摄的照片,画面一旦成像就会变成一个个像素,但这些像素之间的很多关键信息可能会丢失,导致清晰度下降和出现锯齿形。丢失这些信息会影响图像识别和检测,因此移远引入了亚像素分割技术来恢复这些信息,识别效果远高于未使用该技术的地方,大大降低漏检率。

其二是推理加速。以8K图像数据集为例,上千张图片的庞大数据集在原始状态下,使用硬件进行推理可能需要五六个小时,移远「匠心」平台充分利用CPU、NPU和GPU的异构算力来提高计算效率,进行相应的推理加速,使得整体效率提高了两倍以上。

其三是关于多区域和多模型的工程指标统计。具体来说,一个样本可以人工或自动地划分为几个区域,每个区域可指定不同的模型进行推理,最终将所有模型的推理结果展示在同一画面中,极大地提高了流程整体效率。

最后是系统监测平台。在训练过程中,用户需要时刻关注平台上的各种资源使用量,「匠心」平台也提供了相应的支持。

总结下来,「匠心」平台的功能有四个特点:

  • Convenient(全流程开发):提供从数据准备到模型部署的一站式服务。
  • Efficient(半自动引导):半自动化的操作流程,降低操作难度。
  • Collaboration(并行开发):支持多人同时在线协作,提高开发效率。
  • Cross System(多设备协同):兼容多种硬件平台,实现跨设备协同工作。

对于用户来说,「匠心」平台可为其带来三大价值。

首先,提高效率。快速进行算法验证,了解其在目标平台上的表现,从而加快项目进度,提升整体效率。

第二,协助产品规划。广泛体验各种AI模型的能力,并直接部署到目标平台进 行测试,从而为产品规划提供宝贵的启发和参考。

第三,成果的迁移。硬件平台升级时,可将已经训练好的模型方案部署到新的硬件平台上,节省研发时间和成本。

构建端到端的全链路架构

「匠心」平台、设备端的AI推理引擎SDK和物联网连接,共同构成了端到端的全链路架构,打通了模型开发、设备管理、数据分析、边缘侧运算推理以及数据回流优化等全流程功能。

其中,「匠心」作为一站式AI算法平台,负责模型的定制、发布和部署;边缘技术则专注于部署和推理加速;物联网技术则负责管理多个终端设备,确保终端接入更加便捷。这套架构不仅解决了模型向边缘设备部署的难题,还进一步探索了AI技术在缺陷检测、数据分析和后续决策支持中的广泛应用,力求打造完整的智能化闭环。

该架构具有如下特性: 

1. 多样的数据标注内容组件和数据全生命周期管理;

2. 支持多种算法框架与模型类型、一站式模型定制;

3. 支持多种分布式AI任务、在线算法评估功能;

4. 支持AI落地全流程,模型部署一站式操作。

实际用例介绍

人们常说的边算一体,是指边缘计算与人工智能算法的深度融合。边缘计算将数据处理从传统的云端拉至靠近数据源的位置,实现实时处理和低时延。

依托移远通信的嵌入式软硬件开发能力,宝维塔™成功将AI端侧推理模型从传统X86架构移植到ARM架构,并且能做到一键部署,显著降低了硬件成本(最多可节省50%)。当前,「匠心」平台在汽车电子、半导体/泛半导体、金属加工制造等多个行业中已经得到广泛应用,尤其在农副产品分选(如五谷杂粮分类)中展现出了强大的效能。该平台还拓展至循环经济中的垃圾分类等领域,实现了6毫秒以内的高效精准处理。在高端制造业如汽车电子和半导体行业中,宝维塔™AI视觉解决方案广泛应用于外观缺陷检验和产品质量控制,有力推动了智能制造技术的发展。

在农副产品分选中,边缘计算盒子(AI Box)作为视觉识别系统的核心部分,通过高速相机实时捕捉和分析农产品从履带滑下的过程中呈现的画面,利用特征差异(如颜色、形状等)检测并区分正常产品与残次品,并通过喷阀将残次品送至相应槽内,从而实现自动化分级和高效率分拣。

在工业质检领域,宝维塔™AI视觉解决方案不仅能够实现快速且精准的缺陷识别从而提升品质管控,还能帮助企业更好地降低生产成本及提升产能,应用前景十分广泛。

为了更精准地进行缺陷识别,「匠心」平台设计了一套自动融合技术,在保证数据准确性的前提下,允许将多张具有相似目标特征的图像合并成一张进行训练,大大节省了存储空间,同时也显著缩短了训练周期;缺陷生成器板块可以采用AI大模型生成难以收集的缺陷样本,以补充NG样品库,用户可以基于自身的样本库或行业特性创建定制化的缺陷生成器模板,从而快速生成符合实际应用需求的缺陷样本,进一步加快缩短模型训练周期。

结合工业质检的特点和需求,客户既可以直接使用「匠心」平台开发训练模型,也可以选择私有化部署。 

宝维塔™还特别强调硬件在不同部署环境中的表现,例如支持量化精度提升和量化感知训练方法,减少模型部署对硬件的支持限制。同时,「匠心」平台支持增量学习、自定义算子导入以及构建工程训练体系等便捷操作,显著提高了模型迭代效率和整体部署流程的灵活性和适应性。

根据客户的不同情况,宝维塔™提供两种服务模式。对于具备开发团队的客户,提供智能模组或AI Box供其自行通过「匠心」平台低代码开发和部署算法;而对于不具备开发能力的客户,则提供全程解决方案,包括软硬件产品,并借助「匠心」平台协助客户管理和维护设备。

「匠心」平台支持客户根据自身物料特性和风险需求进行算法定制。客户可以通过自定义接口,实现快速定位和特定功能,如参数复用和批量标注等,极大提升了效率与灵活性。此外,平台还提供了学习板块,可一键批量标记OK样本数据集,便于对特定功能区域进行复用,并以报表形式展示样本状态和分布情况。

具体到费用方面,客户可通过免费试用来初步体验,正式选用时可以选择按次数计费或年度包年计费两种付费套餐。 

结语

在AI项目的部署阶段,客户关注的核心问题是能否利用较少的计算资源(即更低的算力)实现模型推理。这不仅涉及对现有算力和算法的优化和提升,还要求降低能耗和功耗,并增强模型的快速唤醒能力以及对未来可能出现的未知缺陷进行预测性维护的能力。AI行业小模型在轻量化方面取得突破,能够适应小规模应用计算端的需求,为工业制造领域的场景化应用提供易于部署且成本竞争力强的解决方案。

宝维塔™作为移远通信的全新工业智能品牌,专注于将人工智能、边缘计算、机器视觉、深度学习、软件算法平台等前沿技术,应用到缺陷检测、AGV机器人自动上下料、成品自动化测试线体等多个工业场景中,推动工业生产的智能化升级。

宝维塔™品牌及「匠心」、「匠准」平台、AI视觉解决方案的推出,不仅展现了移远通信深耕工业智能领域的决心,更标志着他们在加速AI技术产业化进程、推动工业生产智能化、数字化转型方面迈出了重要的一步,将为AI技术在工业领域的广泛应用开辟出更广阔的道路。

责编:Luffy
本文为EET电子工程专辑原创文章,禁止转载。请尊重知识产权,违者本司保留追究责任的权利。
  • 移远通信法人实际控股人钱鹏鹤故意伤害致陈兰萍重伤罪犯,对我的新浪微博围追堵截,详见微博“用户7819647416”
阅读全文,请先
您可能感兴趣
HBM4将用于特斯拉正在开发的AI数据中心及其自动驾驶汽车。其中,特斯拉采购HBM4芯片将用于强化其超级电脑Dojo的性能。
如果新的法规能够实施,特斯拉毫无疑问将能够更自由地部署其无人驾驶技术,从而推动无人驾驶出租车(如Cybercab)的大规模生产。
最近国产AI芯片市场遭遇一波有关7nm被禁的震荡,现状如何了?
尽管生成式AI展现出巨大的市场潜力,但能源消耗以及造成的环境也不容忽视。毫无疑问,未来要想在技术创新与环境保护之间找到平衡,还需通过优化算法、改进硬件设计、采用清洁能源等方式来降低其生态足迹。
摩尔线程的全功能GPU芯片采用自研MUSA架构,内置图形渲染、视频编解码、AI计算加速、物理仿真和科学计算四大引擎。这些芯片能够支持多种工作负载,包括AI训练与推理加速、超高清视频编解码、物理仿真与科学计算等。
有分析认为,台积电断供7纳米及更先进工艺的芯片,一方面是回应此前的“白手套”事件,配合美国对中国大陆人工智能产业发展进行限制,以避免进一步的法律和政治风险,另一方面则是向新一任总统特朗普“投诚”,毕竟时间点很微妙。
自托管加密钱包是一种数字工具,它让用户可以完全掌控加密货币的私钥,特别是像比特币这样的数字资产。对于初次接触加密货币的用户来说,了解如何购买比特币是使用自托管钱包的第一步......
12月11-12日,“上海集成电路2024年度产业发展论坛暨第三十届集成电路设计业展览会”(ICCAD-Expo 2024)将在上海世博展览馆隆重举行。
NS800RT系列实时控制MCU凭借更加高效、功能更强大的实时控制能力和丰富的外设,使工程师能够在光伏/储能逆变器、不间断电源、工业自动化、协作机器人、新能源汽车大/小三电、空调压缩机等系统中,实现皮秒级别的PWM控制,从而显著提升系统运行精度和效率。
对于点击上面↑“电动知家”关注,记得加☆“星标”!电动知家消息,11月20日,小鹏汽车法务部官微发文称,近日,我们注意到在社交媒体及部分网络平台上流传着小鹏P7+采用了软包电池包的不实信息和谣言,且该
“仲恺发布”消息显示,11月19日,“小米&聚飞联合实验室”启动仪式在惠州仲恺高新区举行。作为惠州首个与小米合作成立的联合实验室,未来该实验室将以Mini背光技术创新为主要方向,进一步强化双方在显示终
芯片超人现有1600平米芯片智能仓储基地,现货库存型号1000+,品牌高达100种,5000万颗现货库存芯片,总重量10吨,库存价值高达1亿+。同时,芯片超人在深圳设有独立实验室,每颗物料均安排QC质
★欢迎星标 果壳硬科技★“撒尿!撒尿!”旁边的两个小孩不断调整口音,力求最标准地喊出“撒尿”两个字。终于,桌上的机器狗缓缓抬起一只后腿,做出了狗狗撒尿的动作。与机器狗同出一家的桌面机器猫,同样能执行“
11月21日消息,iQOO Neo10系列将于11月29日发布,共iQOO Neo10和iQOO Neo10 Pro两款机型。随着发布会的临近,新机也已进入预热节奏,在公布性能表现后,iQOO Neo
三星的翻盖式摺叠手机 Galaxy Z Flip 系列近年频繁出现在韩剧中,凭借小巧可爱的外型掳获不少女性消费者喜爱!如今市场传出好消息,三星可能会在明年的Galaxy Z Flip 7 加码平价款机
11月18日,福建兆元光电有限公司(以下简称“兆元光电”)与厦门大学福建省半导体光电科技经济融合服务平台签署战略合作协议,双方将就Mini/Micro LED新型显示关键技术研发进行深入合作,推动Mi
尽管在2024年第三季度实现了盈利,AMS-Osram(艾迈斯欧司朗)近日宣布,公司将进一步扩大其“重建基地”的成本削减计划。这一决定预计将影响到超过500名非生产员工,标志着该公司在优化运营和提升财
对于点击上面↑“电动知家”关注,记得加☆“星标”!电动知家消息,在11月20日晚的电话会议上,蔚来创始人、董事长兼CEO李斌预告了乐道品牌明年的新车阵容:分别对标理想 L8、理想 L7 的六七座中大型
面板价格观察--11月下旬版昨日(11月20日),TrendForce集邦咨询公布了11月下旬面板报价,TrendForce集邦咨询表示:2024年11月下旬,电视、笔记本面板价格保持稳定;显示器面板