热点丨诺贝尔物理学奖颁给了两位机器学习先驱,AI已成物理学前沿课题

AI芯天下 2024-10-14 20:30

·聚焦:人工智能、芯片等行业

欢迎各位客官关注、转发






前言
机器学习所展现的智能,实则是[涌现]现象的一种体现。

这里的[涌现],在广义上,描述的是多个微小个体在相互作用下,共同构成了一个整体,而这个整体所展现出的特性,是单独个体所无法具备的,即所谓的[量变导致质变]。

在物理学等学科领域,涌现现象已被深入研究和探讨,尤其是在凝聚态物理学中,它着重揭示了微观结构与宏观物理性质之间的紧密联系。



作者 | 方文三
图片来源 |  网 络 


诺贝尔物理学奖颁给了两位机器学习先驱

10月8日,瑞典皇家科学院正式宣告,2024年度诺贝尔物理学奖已决定授予美国杰出科学家约翰·霍普菲尔德与英裔加拿大卓越科学家杰弗里·辛顿,以表彰他们运用物理学工具,奠定了当代先进机器学习技术的基石。

瑞典皇家科学院的官方解释指出,霍普菲尔德教授的贡献在于创造了一种新型的信息存储与重构结构;


而辛顿教授则发明了能够自主发现数据属性的方法,这一方法对现代大型人工神经网络的发展具有不可估量的价值。


因此,此次颁奖旨在表彰他们[在利用人工神经网络进行机器学习方面的基础性发现和发明]。


两位获奖者通过物理学工具,提出了驱动人工神经网络运行的创新方法,该方法利用大脑启发的分层结构来学习并理解抽象概念。


简而言之,霍普菲尔德与辛顿两位学者,均借助物理学的基本原理与技术手段,成功研发出依托网络架构处理信息的技术。


这一重大发现被诺贝尔奖委员会主席、瑞典卡尔斯塔德大学物理学家Ellen Moons在发布会上高度评价为[构成了机器学习的基石,能够显著提升人类决策的速度与可靠性]。


从逻辑层面分析,瑞典皇家科学院认为机器学习可作为探索物理世界的一种有力工具,其潜在应用广泛,而非简单地将机器学习等同于物理研究本身。


回顾历史,具有物理学背景的理论生物学家霍普菲尔德教授于1982年提出了一种新型网络模型。


该模型将虚拟神经元之间的连接比作物理力,通过低能状态存储模式,并能在接收到相似输入时再现这些模式。


这一结构被称为联想记忆,其工作机制与大脑通过相关信息回忆词汇或概念的方式相类似。


霍普菲尔德教授提出了一种联想存储器,该存储器能够存储和重建图像以及其他类型的数据模式,这一理论的基础正是源自于物理学中的自旋系统。


而辛顿教授则发明了玻尔兹曼机,这一模型的灵感来源于统计物理学。


玻尔兹曼机引入了一种用于模式识别的概率模型,其训练算法和动力学原理在一定程度上与简单的物理过程相似。



霍普菲尔德:创建[霍普菲尔德网络]模型


约翰・霍普菲尔德,1933年出生于美国芝加哥,以其在多个领域的卓越贡献而闻名。

他拥有康奈尔大学物理学博士学位,既是一位杰出的生物物理学家、神经科学家,又是一位计算机科学家。


霍普菲尔德创建的[霍普菲尔德网络]具有重大的创新意义。这个网络能够存储和重构图像以及数据中的其他类型模式。


它就像是一个强大的记忆库,当给定一个不完整或稍微扭曲的网络模式时,能够有条不紊地处理节点并更新它们的值,从而降低网络的能量,逐步找到与输入的不完美图像最相似的保存图像。


这一过程仿佛是在大海中捞针,但[霍普菲尔德网络]却能高效地完成这个任务。


霍普菲尔德的工作不仅在实际应用中有很大价值,对神经网络动力学也有着深入的理解。


他利用描述自旋相互影响时材料如何发展的物理学原理,建立了一个具有节点和连接的模型网络。


这种将物理学原理应用于神经网络的方法,为后续的研究提供了新的思路和方向。


通过不断改进网络,使保存更多的图片成为可能,即使它们非常相似,也可以区分它们。


霍普菲尔德的贡献得到了广泛的认可,他曾获得2022年玻尔兹曼奖。


这个奖项是对他在扩展统计物理学边界、涵盖生命现象以及对神经网络动力学研究方面的高度肯定。


他的研究成果为机器学习和人工智能的发展奠定了坚实的基础,也为物理学与其他学科的交叉融合树立了榜样。



辛顿:玻尔兹曼机带来变个性突破


杰弗里・辛顿,1947 年出生于英国伦敦,在人工智能领域有着举足轻重的地位。

他以霍普菲尔德网络为基础,开发出了[玻尔兹曼机],为机器学习的发展带来了革命性的突破。


玻尔兹曼机是一种可通过输入数据集学习概率分布的随机生成神经网络。


它不是从指令中学习,而是从给定的例子中学习。通过给机器输入案例来训练机器,玻尔兹曼机可对图像进行分类,或者为它所训练的模式类型创建新的案例。


每次更新一个节点的值,最终机器将进入一种状态,在这种状态下,节点的模式可以改变,但整个网络的属性保持不变。


根据玻尔兹曼方程,每个可能的模式都有一个特定的概率,这个概率由网络的能量决定。


当机器停止时,它创造了一个新的模式,这使得玻尔兹曼机成为了生成模型的早期例子。


辛顿的贡献不仅仅在于发明了玻尔兹曼机,还在于他在此基础上帮助启动了当前机器学习的爆炸性发展。


2006年,他和同事开发了一种预训练网络的方法,该网络由一系列分层的波尔兹曼机组成。这种预训练为网络中的连接提供了一个更好的起点,从而优化了识别图像元素的训练。


辛顿的成就得到了国际社会的高度认可。他曾获得 2018 年图灵奖,这是计算机领域的最高荣誉。



机器学习可以帮助科学家寻找隐含规律


机器学习在物理学的多个领域都发挥着重要作用,包括多体物理、粒子物理、天体物理等。

在多体物理领域,机器学习可以帮助科学家寻找隐含规律。


例如,通过分析大量的实验数据和模拟结果,机器学习算法可以自动发现多体系统中的关联性和规律,为理解复杂的多体物理现象提供新的视角。


在粒子物理中,机器学习能够挖掘有效信息。大型强子对撞机等实验产生了海量的粒子物理数据,传统的数据分析方式往往效率低下。


而机器学习技术可以快速从这些复杂的数据中提取有用的信息和模式,辅助发现新的粒子和相互作用,加速研究进程。


据统计,在某些粒子物理实验中,机器学习算法能够将数据分析的效率提高数倍甚至数十倍。


在天体物理方面,机器学习可以提升研究效率。天体观测数据通常非常庞大且复杂,机器学习可以在分析这些数据、探测引力波、预测宇宙演化等方面发挥重要作用。


例如,通过机器学习算法对天体观测数据进行分类、聚类和降维等操作,可以更好地理解和解释天体物理现象,为解开宇宙奥秘提供有力支持。



物理学与AI之间的桥梁已稳固搭建


尽管人类大脑拥有约100万亿个神经元连接,而GPT等AI模型的连接数仅为万亿级别,但GPT却能凭借超过1700亿个参数,记忆并理解人类全部知识与文明,甚至进行高级别的抽象思考。

这表明,AI在利用有限连接处理海量知识方面,可能比人类更为高效,或已探索出更为优化的学习路径。


年初由Sora引发的[世界模型]争议,便是物理AI领域的一次重要里程碑。


尽管Sora的构想较为理想化,且OpenAI尚未公开其完全体形态,但科技巨头们对AI在物理学领域的研究并未止步。


例如,英伟达CEO黄仁勋在Computex 2024上预测,AI的下一波浪潮将是物理AI(实体AI)。


人工神经网络并非最新研究方向,从上世纪60年代起,科学家们就开始研究,且研究过程几经起伏。

不论是霍普菲尔德还是辛顿,他们的研究都经历了从热到冷再到热的过程。


尤其是辛顿,更为业内人士熟知的是他30年坐[冷板凳]的故事。


早在上世纪80年代,人工神经网络曾是热门研究方向,但由于当时计算机算力等问题,这个领域一度被认为难有突破,很快就不再为人们所关注。


但是,这两位学者却能持续地在神经网络方向耕耘。神经网络深度学习可说在他们的研究基础上得到了爆发式发展。


霍普菲尔德提出的[霍普菲尔德神经网络],以物理学中的自旋系统能量为喻,揭示了神经网络运作的奥秘;


而辛顿则更进一步,运用统计物理学工具提出[玻尔兹曼机]模型,其研究成果不仅奠定了计算机视觉系统与大语言模型的基础,更引领全球迎来了新一轮生成式AI革命的浪潮。



结尾:


随着技术的不断发展,机器学习与物理学的融合将更加紧密,为科学研究揭开更多的谜团和秘密。

然而,在此进程中,仍存若干悬而未决的问题,致使科学界对神经网络的研究一度陷入沮丧之境。


部分资料参考:自然系列:《[将超越人的智力水平]:机器学习先驱获2024年诺贝尔物理学奖》,APPSO:《诺贝尔奖快被AI包圆了,这10个冷知识带你重新认识AI教父》,乌鸦智能说:《AI[统治]诺贝尔奖背后,知识的贬值已经开始了》,镁客网:《AI拿下诺贝尔物理学,是为Sora的[世界模型]打广告?》,文汇教育:《实属[没有想到]!两位AI先驱摘获诺贝尔物理学奖》,新京报:《两名科学家分享2024诺贝尔物理学奖,其中一位是[AI教父]》,硅星人Pro:《最惊人又合理的诺贝尔物理学奖,颁给AI先驱Geoffrey 辛顿和John 霍普菲尔德》,钛媒体AGI:《2024诺贝尔物理学奖颁给两位[AI教父]》


本公众号所刊发稿件及图片来源于网络,仅用于交流使用,如有侵权请联系回复,我们收到信息后会在24小时内处理。




END


推荐阅读:


商务合作请加微信勾搭:

18948782064

请务必注明:

「姓名 + 公司 + 合作需求」


AI芯天下 聚焦人工智能,AI芯片,5G通讯等行业动态
评论
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 119浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 120浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 100浏览
  • 概述 说明(三)探讨的是比较器一般带有滞回(Hysteresis)功能,为了解决输入信号转换速率不够的问题。前文还提到,即便使能滞回(Hysteresis)功能,还是无法解决SiPM读出测试系统需要解决的问题。本文在说明(三)的基础上,继续探讨为SiPM读出测试系统寻求合适的模拟脉冲检出方案。前四代SiPM使用的高速比较器指标缺陷 由于前端模拟信号属于典型的指数脉冲,所以下降沿转换速率(Slew Rate)过慢,导致比较器检出出现不必要的问题。尽管比较器可以使能滞回(Hysteresis)模块功
    coyoo 2024-12-03 12:20 108浏览
  • TOF多区传感器: ND06   ND06是一款微型多区高集成度ToF测距传感器,其支持24个区域(6 x 4)同步测距,测距范围远达5m,具有测距范围广、精度高、测距稳定等特点。适用于投影仪的无感自动对焦和梯形校正、AIoT、手势识别、智能面板和智能灯具等多种场景。                 如果用ND06进行手势识别,只需要经过三个步骤: 第一步&
    esad0 2024-12-04 11:20 50浏览
  •         温度传感器的精度受哪些因素影响,要先看所用的温度传感器输出哪种信号,不同信号输出的温度传感器影响精度的因素也不同。        现在常用的温度传感器输出信号有以下几种:电阻信号、电流信号、电压信号、数字信号等。以输出电阻信号的温度传感器为例,还细分为正温度系数温度传感器和负温度系数温度传感器,常用的铂电阻PT100/1000温度传感器就是正温度系数,就是说随着温度的升高,输出的电阻值会增大。对于输出
    锦正茂科技 2024-12-03 11:50 106浏览
  • 作为优秀工程师的你,已身经百战、阅板无数!请先醒醒,新的项目来了,这是一个既要、又要、还要的产品需求,ARM核心板中一个处理器怎么能实现这么丰富的外围接口?踌躇之际,你偶阅此文。于是,“潘多拉”的魔盒打开了!没错,USB资源就是你打开新世界得钥匙,它能做哪些扩展呢?1.1  USB扩网口通用ARM处理器大多带两路网口,如果项目中有多路网路接口的需求,一般会选择在主板外部加交换机/路由器。当然,出于成本考虑,也可以将Switch芯片集成到ARM核心板或底板上,如KSZ9897、
    万象奥科 2024-12-03 10:24 68浏览
  • 戴上XR眼镜去“追龙”是种什么体验?2024年11月30日,由上海自然博物馆(上海科技馆分馆)与三湘印象联合出品、三湘印象旗下观印象艺术发展有限公司(下简称“观印象”)承制的《又见恐龙》XR嘉年华在上海自然博物馆重磅开幕。该体验项目将于12月1日正式对公众开放,持续至2025年3月30日。双向奔赴,恐龙IP撞上元宇宙不久前,上海市经济和信息化委员会等部门联合印发了《上海市超高清视听产业发展行动方案》,特别提到“支持博物馆、主题乐园等场所推动超高清视听技术应用,丰富线下文旅消费体验”。作为上海自然
    电子与消费 2024-11-30 22:03 98浏览
  • 当前,智能汽车产业迎来重大变局,随着人工智能、5G、大数据等新一代信息技术的迅猛发展,智能网联汽车正呈现强劲发展势头。11月26日,在2024紫光展锐全球合作伙伴大会汽车电子生态论坛上,紫光展锐与上汽海外出行联合发布搭载紫光展锐A7870的上汽海外MG量产车型,并发布A7710系列UWB数字钥匙解决方案平台,可应用于数字钥匙、活体检测、脚踢雷达、自动泊车等多种智能汽车场景。 联合发布量产车型,推动汽车智能化出海紫光展锐与上汽海外出行达成战略合作,联合发布搭载紫光展锐A7870的量产车型
    紫光展锐 2024-12-03 11:38 101浏览
  • 遇到部分串口工具不支持1500000波特率,这时候就需要进行修改,本文以触觉智能RK3562开发板修改系统波特率为115200为例,介绍瑞芯微方案主板Linux修改系统串口波特率教程。温馨提示:瑞芯微方案主板/开发板串口波特率只支持115200或1500000。修改Loader打印波特率查看对应芯片的MINIALL.ini确定要修改的bin文件#查看对应芯片的MINIALL.ini cat rkbin/RKBOOT/RK3562MINIALL.ini修改uart baudrate参数修改以下目
    Industio_触觉智能 2024-12-03 11:28 84浏览
  • 11-29学习笔记11-29学习笔记习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-02 23:58 71浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦