从嵌入式角度分析“可解释性”对人工智能的影响!

嵌入式资讯精选 2020-11-10 00:00

“图灵奖”获得者、清华大学交叉信息研究院院长、中国科学院院士姚期智在2020年10月22日浦江创新论坛上的演讲中(参考阅读解读姚期智关于人工智能发展的最新演讲!),明确提出了人工智能系统的“可解释性”问题是当前制约人工智能发展的重大瓶颈。本文将从嵌入式系统视角,就此问题深入探讨什么是可解释性?可解释性问题的由来以及对人工智能未来发展有何影响?


通俗地讲,可解释性就是对事物的可认识、可了解程度,从而将人们对事物认识从“是什么”推进到“为什么”的境界。人工智能系统的“可解释性”具体体现在对系统硬件、软件及芯片的认识与了解上。



可解释性问题始于智能化工具诞生后的人工智能时代。在机械化工具诞生的工业革命时代,不存在可解释性问题。人们为了有效地驾驭机械化工具,除了有理论知识,还必须通晓机械化工具的结构、运行原理,如汽车司机要了解汽车发动机、油箱、油路、点火系统、刹车系统,才能安全可靠地驾驶汽车;火车司机要了解锅炉、蒸汽管道、蒸汽机、刹车机构,才能驾驭火车。在日常生活中,电器产品厂家为了百姓能有效地使用自己产品,竞相为用户提供最好的产品解释服务。20世纪6、70年代,出售的收音机、录音机、电唱机、电视机都配有详细的电路图与使用说明书。如今的人工智能时代,几乎所有的智能产品都成了用户无法认识、无法了解的黑盒子,但用户并不介意对产品的“无可知晓”。产品维修的“替换性”处理模式也无须了解产品的结构与运行原理。人工智能时代似乎进入到一个可以无视系统可解释性问题的时代。


要了解工业革命时代与人工智能时代产品系统在可解释性问题上的巨大的差异,可以从机械化工具与智能化工具的产品与产业模式两个方面的差异入手。


从产品的差异上看,首先,从体系结构上看,机械化工具是一个结构与功能一体化的产品体系,智能化工具则是一个结构(硬件)与功能(软件)相互分离的产品系统。20世纪5、60年代的收音机、录音机、电唱机、电气仪表,所有的功能都依靠各种功能的电路结构来实现;如今的智能家电、手机、电脑、电子书、智慧屏等,无一不是一个软硬件可分离的电子系统,系统的所有功能都由软件赋予,硬件只为应用软件提供一个运行平台。这种分离导致消费者不再关心产品的硬件结构。其次,产品硬件结构平台化与生态体系的不断优化,使产品具有极高的可靠性,即便出了故障也多为软件问题,用户采用重启措施,维修部门重装系统软件或直接更换控制模块即可解决,没有对硬件结构更多的知识需求。第三,从功能实现的机制上看,机械化工具的功能机制是“人+工具”,以照相机为例,照相机的所有功能(调焦、光圈与快门设置)都必须在用户操作下完成;智能化工具的功能机制则是工具的独立运行模式,用户在使用数码相机时,只须取景、按下快门即可,无疑使用者是把数码相机看成是一个可以用来照相的黑盒子。正是产品结构与功能的分离(结构与功能没有直接关系)、软件与硬件的分离(硬件搭台软件唱戏)、人与功能的分离(人与工具功能实现无关)直接导致了智能化工具的不可解释或无须解释。


从产业模式上看,可解释性问题不仅存在于产品系统中,还广泛存在于产业结构之中。工业革命时代的产业结构是创新与应用一体化的封闭型结构(企业自己创新、自己应用),不存在可解释性问题。人工智能时代,科技创新与创新成果应用出现了彻底分离。科技创新者专门从事科技创新,并将科技成果转化成各种类型的知识平台(芯片平台、硬件平台、软件平台、产品平台等)不介入科技成果应用;创新成果应用者不从事科技创新,在平台基础上完成科技成果最终的创新应用。知识平台由不可解释的知识原理与可解释的应用界面组成,下图显示了人工智能时代这种以知识平台为中介的扇形生态体系。


人工智能时代的扇形产业生态体系

在这种扇形生态体系中,知识平台将知识原理与应用界面分割成不可解释与可解释两个部分。不可解释的知识原理有效地保护了知识创新者的知识产权;应用界面的可解释性保证了平台的傻瓜化应用,大大降低了创新成果应用的知识门槛。在知识平台为中介下,知识创新企业与众多创新知识应用企业构成了一个上下游的扇形产业生态体系。从社会生产力的进化视角看来,这无疑是十分先进的全球化产业生态体系。


可以看出,人工智能时代,无论是知识平台的傻瓜化应用,还是生态体系的产业分工,都在“不可解释”、“不必解释”的常态化环境中正常运行。那么为什么会有人提出,可解释性问题已成为当前制约人工智能发展的重大瓶颈,成为当前人工智能研究的热点问题,这还须从分析产业生态体系中寻找答案。


首先,从最大限度引入社会智力资源的角度出发,知识平台知识成果的不可解释性不利于广聚人才于知识创新;其次,知识平台的不可解释性强化了产业垄断,易出现产业僵化;第三,不可解释性降低了用户对产品的信任度,也为厂家留下了众多可黑箱操作(窃取用户信息、损善用户利益、对产品特征取向操控、对产品缺陷的有意隐瞒等)的空间。因此,人们一直在努力改变知识平台知识成果这种不可解释的局面,其主要战略便是广泛的开源。


最早开源的是人工智能的硬件系统,从用户板、白系统到树莓派的产品平台,还有为用户产品开发的开发板、仿真器、调试工具,至今,硬件系统已有完全透明的应用环境;软件开源从操作系统起步,大型通用的有1983年GNU计划开始的Linux操作系统,以及Linux内核衍生的众多开源操作系统,绝大多数用于嵌入式系统的RTOS都是开源的软件,如今的物联网操作系统也实施了广泛的开源模式;芯片开源起步较晚,势头却很猛,当前最主要的开源芯片是RISC-V。


姚期智演讲中,提到可解释性瓶颈时,重点举出了对机器学习算法可解释性的担忧。算法的可解释性隶属于开源软件领域。由于智能系统的功能由软件给定,软件编程的非绝对可靠性决定了软件算法的偏向性与漏洞,从而形成人工智能系统的可靠性、可信性与安全性问题。算法的可解释性问题将严重阻碍这些问题的解决。


人工智能不是单纯的工业革命,它是现代计算机的知识革命,其影响全面波及人类知识相关领域。知识创新与创新知识应的彻底分离是人工智能重要的时代特征。分离后,在智能化工具产业与用户使用中,对知识原理不可解释或无需解释。前者消除全球化产业转移中对知识产权保护的担忧,后者则形成了智能化工具的傻瓜化应用模式。然而,这种分离所造成平台知识原理的不可解释性不利于人工智能未来发展。人工智能领域广泛的开源战略,硬件开源、软件开源、芯片开源、算法开源,将会全面消除可解释性障碍,使人工智能全面腾飞。


1.2020年第11期《单片机与嵌入式系统应用》电子刊新鲜出炉!

2.为什么要用C语言实现面向对象?

3.27种不同编程语言能耗对比!

4.当所有需求都是第一优先级时,该怎么办?

5.这个物联网操作系统—OneOS,来了解一下!

6.可怕,别人把我MCU固件给反汇编了!

嵌入式资讯精选 掌握最鲜资讯,尽领行业新风
评论
  • 本文介绍编译Android13 ROOT权限固件的方法,触觉智能RK3562开发板演示,搭载4核A53处理器,主频高达2.0GHz;内置独立1Tops算力NPU,可应用于物联网网关、平板电脑、智能家居、教育电子、工业显示与控制等行业。关闭selinux修改此文件("+"号为修改内容)device/rockchip/common/BoardConfig.mkBOARD_BOOT_HEADER_VERSION ?= 2BOARD_MKBOOTIMG_ARGS :=BOARD_PREBUILT_DTB
    Industio_触觉智能 2025-01-08 00:06 84浏览
  • 每日可见的315MHz和433MHz遥控模块,你能分清楚吗?众所周知,一套遥控设备主要由发射部分和接收部分组成,发射器可以将控制者的控制按键经过编码,调制到射频信号上面,然后经天线发射出无线信号。而接收器是将天线接收到的无线信号进行解码,从而得到与控制按键相对应的信号,然后再去控制相应的设备工作。当前,常见的遥控设备主要分为红外遥控与无线电遥控两大类,其主要区别为所采用的载波频率及其应用场景不一致。红外遥控设备所采用的射频信号频率一般为38kHz,通常应用在电视、投影仪等设备中;而无线电遥控设备
    华普微HOPERF 2025-01-06 15:29 160浏览
  • By Toradex 秦海1). 简介嵌入式平台设备基于Yocto Linux 在开发后期量产前期,为了安全以及提高启动速度等考虑,希望将 ARM 处理器平台的 Debug Console 输出关闭,本文就基于 NXP i.MX8MP ARM 处理器平台来演示相关流程。 本文所示例的平台来自于 Toradex Verdin i.MX8MP 嵌入式平台。  2. 准备a). Verdin i.MX8MP ARM核心版配合Dahlia载板并
    hai.qin_651820742 2025-01-07 14:52 101浏览
  • 这篇内容主要讨论三个基本问题,硅电容是什么,为什么要使用硅电容,如何正确使用硅电容?1.  硅电容是什么首先我们需要了解电容是什么?物理学上电容的概念指的是给定电位差下自由电荷的储藏量,记为C,单位是F,指的是容纳电荷的能力,C=εS/d=ε0εrS/4πkd(真空)=Q/U。百度百科上电容器的概念指的是两个相互靠近的导体,中间夹一层不导电的绝缘介质。通过观察电容本身的定义公式中可以看到,在各个变量中比较能够改变的就是εr,S和d,也就是介质的介电常数,金属板有效相对面积以及距离。当前
    知白 2025-01-06 12:04 209浏览
  • 「他明明跟我同梯进来,为什么就是升得比我快?」许多人都有这样的疑问:明明就战绩也不比隔壁同事差,升迁之路却比别人苦。其实,之间的差异就在于「领导力」。並非必须当管理者才需要「领导力」,而是散发领导力特质的人,才更容易被晓明。许多领导力和特质,都可以通过努力和学习获得,因此就算不是天生的领导者,也能成为一个具备领导魅力的人,进而被老板看见,向你伸出升迁的橘子枝。领导力是什么?领导力是一种能力或特质,甚至可以说是一种「影响力」。好的领导者通常具备影响和鼓励他人的能力,并导引他们朝着共同的目标和愿景前
    优思学院 2025-01-08 14:54 47浏览
  • 故障现象一辆2017款东风风神AX7车,搭载DFMA14T发动机,累计行驶里程约为13.7万km。该车冷起动后怠速运转正常,热机后怠速运转不稳,组合仪表上的发动机转速表指针上下轻微抖动。 故障诊断 用故障检测仪检测,发动机控制单元中无故障代码存储;读取发动机数据流,发现进气歧管绝对压力波动明显,有时能达到69 kPa,明显偏高,推断可能的原因有:进气系统漏气;进气歧管绝对压力传感器信号失真;发动机机械故障。首先从节气门处打烟雾,没有发现进气管周围有漏气的地方;接着拔下进气管上的两个真空
    虹科Pico汽车示波器 2025-01-08 16:51 51浏览
  • 村田是目前全球量产硅电容的领先企业,其在2016年收购了法国IPDiA头部硅电容器公司,并于2023年6月宣布投资约100亿日元将硅电容产能提升两倍。以下内容主要来自村田官网信息整理,村田高密度硅电容器采用半导体MOS工艺开发,并使用3D结构来大幅增加电极表面,因此在给定的占位面积内增加了静电容量。村田的硅技术以嵌入非结晶基板的单片结构为基础(单层MIM和多层MIM—MIM是指金属 / 绝缘体/ 金属) 村田硅电容采用先进3D拓扑结构在100um内,使开发的有效静电容量面积相当于80个
    知白 2025-01-07 15:02 137浏览
  •  在全球能源结构加速向清洁、可再生方向转型的今天,风力发电作为一种绿色能源,已成为各国新能源发展的重要组成部分。然而,风力发电系统在复杂的环境中长时间运行,对系统的安全性、稳定性和抗干扰能力提出了极高要求。光耦(光电耦合器)作为一种电气隔离与信号传输器件,凭借其优秀的隔离保护性能和信号传输能力,已成为风力发电系统中不可或缺的关键组件。 风力发电系统对隔离与控制的需求风力发电系统中,包括发电机、变流器、变压器和控制系统等多个部分,通常工作在高压、大功率的环境中。光耦在这里扮演了
    晶台光耦 2025-01-08 16:03 44浏览
  • 在智能家居领域中,Wi-Fi、蓝牙、Zigbee、Thread与Z-Wave等无线通信协议是构建短距物联局域网的关键手段,它们常在实际应用中交叉运用,以满足智能家居生态系统多样化的功能需求。然而,这些协议之间并未遵循统一的互通标准,缺乏直接的互操作性,在进行组网时需要引入额外的网关作为“翻译桥梁”,极大地增加了系统的复杂性。 同时,Apple HomeKit、SamSung SmartThings、Amazon Alexa、Google Home等主流智能家居平台为了提升市占率与消费者
    华普微HOPERF 2025-01-06 17:23 195浏览
  • 大模型的赋能是指利用大型机器学习模型(如深度学习模型)来增强或改进各种应用和服务。这种技术在许多领域都显示出了巨大的潜力,包括但不限于以下几个方面: 1. 企业服务:大模型可以用于构建智能客服系统、知识库问答系统等,提升企业的服务质量和运营效率。 2. 教育服务:在教育领域,大模型被应用于个性化学习、智能辅导、作业批改等,帮助教师减轻工作负担,提高教学质量。 3. 工业智能化:大模型有助于解决工业领域的复杂性和不确定性问题,尽管在认知能力方面尚未完全具备专家级的复杂决策能力。 4. 消费
    丙丁先生 2025-01-07 09:25 108浏览
  • 根据环洋市场咨询(Global Info Research)项目团队最新调研,预计2030年全球无人机锂电池产值达到2457百万美元,2024-2030年期间年复合增长率CAGR为9.6%。 无人机锂电池是无人机动力系统中存储并释放能量的部分。无人机使用的动力电池,大多数是锂聚合物电池,相较其他电池,锂聚合物电池具有较高的能量密度,较长寿命,同时也具有良好的放电特性和安全性。 全球无人机锂电池核心厂商有宁德新能源科技、欣旺达、鹏辉能源、深圳格瑞普和EaglePicher等,前五大厂商占有全球
    GIRtina 2025-01-07 11:02 115浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦