新华社斯德哥尔摩10月8日电（记者郭爽）瑞典皇家科学院8日宣布，将2024年诺贝尔物理学奖授予美国科学家约翰·霍普菲尔德和英国裔加拿大科学家杰弗里·欣顿，以表彰他们在使用人工神经网络的机器学习方面的基础性发现和发明。
10月8日，在瑞典斯德哥尔摩举行的2024年诺贝尔物理学奖公布现场，屏幕显示奖项得主美国普林斯顿大学的约翰·霍普菲尔德和加拿大多伦多大学的杰弗里·欣顿。新华社记者 彭子洋 摄
瑞典皇家科学院当天发表公报说，今年的两位诺贝尔物理学奖得主使用物理学工具，为当今强大的机器学习技术奠定了基础。约翰·霍普菲尔德创建了一种联想记忆方法，可以存储和重构图像或其他类型的数据模式。杰弗里·欣顿发明了一种可以自动发现数据中属性的方法，可用于识别图片中的特定元素等任务。
诺贝尔物理学委员会主席埃伦·穆恩斯在当天的新闻发布会上表示，两名获奖者利用统计物理的基本概念设计了人工神经网络，构建了机器学习的基础。相关技术已被用于推动多个领域的研究，包括粒子物理、材料科学和天体物理等，也已用于日常生活中的人脸识别和语言翻译等。她同时警告说，机器学习的快速发展也引发了人们对未来的担忧，人类有责任以安全且道德的方式使用这项新技术。
10月8日，在瑞典斯德哥尔摩举行的2024年诺贝尔物理学奖公布现场，屏幕显示奖项得主美国普林斯顿大学的约翰·霍普菲尔德和加拿大多伦多大学的杰弗里·欣顿。新华社记者 彭子洋 摄
约翰·霍普菲尔德1933年出生于美国芝加哥，1958年获得美国康奈尔大学博士学位，现任美国普林斯顿大学教授。
杰弗里·欣顿1947年出生于英国伦敦，1978年获得英国爱丁堡大学博士学位，现任加拿大多伦多大学教授。
欣顿当天在接受电话连线时表示，获得诺奖对他来说“完全没想到”。他指出，相关技术将对社会产生巨大影响，但也必须警惕技术可能造成的威胁。
对于今年的诺贝尔物理学奖结果，不少人认为有些出乎意料。诺贝尔物理学委员会秘书乌尔夫·丹尼尔松当天在接受新华社记者采访时表示，物理学奖可以授予理论上、实验上或者观测上的发现，也可以授予发明，今年的获奖成果从某种意义上讲也是一种发明，一种可以多种方式应用的发明。
今年的获奖者使用物理学工具构建了为当今强大的机器学习奠定基础的方法。约翰·霍普菲尔德（John Hopfield）创建了一种可以存储和重建信息的结构。Geoffrey Hinton发明了一种可以独立发现数据属性的方法，这对于现在使用的大型人工神经网络来说已经变得很重要。
© Johan Jarnestad/瑞典皇家科学院
许多人都体验过计算机如何在语言之间进行翻译、解释图像甚至进行合理的对话。也许不太为人所知的是，这种技术长期以来对研究很重要，包括对大量数据的排序和分析。机器学习的发展在过去十五到二十年中呈爆炸式增长，并利用了一种称为人工神经网络的结构。如今，当我们谈论人工智能时，我们通常指的是这种技术。
尽管计算机无法思考，但机器现在可以模仿记忆和学习等功能。今年的物理学奖得主帮助实现了这一目标。他们利用物理学的基本概念和方法，开发了利用网络结构来处理信息的技术。
机器学习与传统软件不同，传统软件的工作原理就像一种菜谱。该软件接收数据，根据清晰的描述进行处理并产生结果，就像有人收集原料并按照食谱进行处理以生产蛋糕一样。相反，在机器学习中，计算机通过示例进行学习，使其能够解决过于模糊和复杂而无法通过逐步指令进行管理的问题。一个例子是解释一张图片以识别其中的对象。
人工神经网络使用整个网络结构来处理信息。灵感最初来自于了解大脑如何运作的愿望。 20 世纪 40 年代，研究人员开始围绕大脑神经元和突触网络背后的数学进行推理。另一个难题来自心理学，这要归功于神经科学家唐纳德·赫布（Donald Hebb）的假设，即学习是如何发生的，因为当神经元一起工作时，它们之间的联系会得到加强。
后来，这些想法被尝试通过构建人工神经网络作为计算机模拟来重建大脑网络的功能。在这些模型中，大脑的神经元被赋予不同值的节点所模仿，而突触则由节点之间的连接来表示，这些连接可以变得更强或更弱。唐纳德·赫布的假设仍然被用作通过称为训练的过程更新人工网络的基本规则之一。
© Johan Jarnestad/瑞典皇家科学院
20 世纪 60 年代末，一些令人沮丧的理论结果导致许多研究人员怀疑这些神经网络永远不会有任何实际用途。然而，人们对人工神经网络的兴趣在 20 世纪 80 年代重新被唤醒，当时几个重要的想法产生了影响，其中包括今年获奖者的工作。
想象一下，您正在尝试记住一个您很少使用的相当不寻常的单词，例如用于电影院和演讲厅中常见的倾斜地板的单词。你搜索你的记忆。有点像斜坡……也许是径向……径向？不，不是那样。耙子，就是这样！
这种搜索相似单词以找到正确单词的过程让人想起物理学家约翰·霍普菲尔德 (John Hopfield) 在 1982 年发现的联想记忆。Hopfield网络可以存储模式，并有一种重新创建它们的方法。当给网络一个不完整或轻微扭曲的模式时，该方法可以找到最相似的存储模式。
霍普菲尔德此前曾利用他的物理学背景来探索分子生物学的理论问题。当他受邀参加一个有关神经科学的会议时，他遇到了有关大脑结构的研究。他对所学到的东西很着迷，并开始思考简单神经网络的动力学。当神经元一起行动时，它们可以产生新的、强大的特征，而这些特征对于只关注网络独立组件的人来说是不明显的。
1980 年，霍普菲尔德离开了他在普林斯顿大学的职位，他的研究兴趣使他离开了物理学同事们工作的领域，并搬到了整个非洲大陆。他接受了南加州帕萨迪纳市加州理工学院化学和生物学教授职位的邀请。在那里，他可以使用计算机资源进行免费实验并发展他关于神经网络的想法。
然而，他并没有放弃自己的物理学基础，在那里他找到了灵感，理解了具有许多小组件协同工作的系统如何产生新的有趣的现象。他特别受益于了解磁性材料，这些材料由于原子自旋而具有特殊特性，这种特性使每个原子都成为微小的磁铁。相邻原子的自旋相互影响；这可以允许形成具有相同方向自旋的域。他能够利用物理学描述材料在自旋相互影响时如何发展，从而建立一个具有节点和连接的模型网络。
霍普菲尔德构建的网络具有通过不同强度的连接连接在一起的节点。每个节点都可以存储一个单独的值——在 Hopfield 的第一个作品中，这个值可以是 0 也可以是 1，就像黑白图片中的像素一样。
霍普菲尔德描述了网络的整体状态，其属性相当于物理学中自旋系统中的能量；能量是使用一个公式计算的，该公式使用节点的所有值以及它们之间的所有连接强度。 Hopfield 网络通过馈送到节点的图像进行编程，节点被赋予黑色 (0) 或白色 (1) 值。然后使用能量公式调整网络的连接，以便保存的图像获得低能量。当另一种模式被输入网络时，有一个规则会逐个遍历节点，并检查如果该节点的值发生变化，网络是否具有较低的能量。如果事实证明，如果黑色像素变成白色，能量就会减少，它就会改变颜色。这个过程一直持续到不可能找到任何进一步的改进为止。当达到这一点时，网络通常会再现其训练时所用的原始图像。
如果您只保存一种模式，这可能不会显得那么引人注目。也许您想知道为什么不直接保存图像本身并将其与正在测试的另一张图像进行比较，但 Hopfield 的方法很特殊，因为可以同时保存多张图片，并且网络通常可以区分它们。
霍普菲尔德将在网络中搜索已保存的状态比作在山峰和山谷中滚动一个球，摩擦力会减慢其运动速度。如果球掉落在特定位置，它会滚入最近的山谷并停在那里。如果给网络一个接近已保存模式之一的模式，它将以同样的方式继续前进，直到到达能量景观中的山谷底部，从而找到其记忆中最接近的模式。
Hopfield 网络可用于重新创建包含噪声或已部分擦除的数据。
© Johan Jarnestad/瑞典皇家科学院
Hopfield 和其他人继续开发 Hopfield 网络功能的细节，包括可以存储任何值的节点，而不仅仅是零或一。如果您将节点视为图片中的像素，那么它们可以具有不同的颜色，而不仅仅是黑色或白色。改进的方法使得保存更多图片成为可能，并且即使它们非常相似也能够区分它们。识别或重建任何信息都是可能的，只要它是由许多数据点构建的。
记住图像是一回事，但解释它所描绘的内容则需要更多。
即使很小的孩子也可以指着不同的动物并自信地说出它是狗、猫还是松鼠。他们偶尔可能会出错，但很快他们几乎总是正确的。即使没有看到任何图表或物种或哺乳动物等概念的解释，孩子也可以学到这一点。在遇到每种动物的一些例子后，不同的类别就会在孩子的头脑中就位。人们通过体验周围的环境来学习识别一只猫，或者理解一个单词，或者进入一个房间并注意到某些东西发生了变化。
当霍普菲尔德发表有关联想记忆的文章时，杰弗里·辛顿正在美国匹兹堡的卡内基梅隆大学工作。他之前曾在英格兰和苏格兰研究过实验心理学和人工智能，并且想知道机器是否可以学习以与人类类似的方式处理模式，找到自己的类别来排序和解释信息。 Hinton 与他的同事 Terrence Sejnowski 一起从 Hopfield 网络开始，并利用统计物理学的思想将其扩展以构建新的东西。
统计物理学描述由许多相似元素组成的系统，例如气体中的分子。追踪气体中的所有单独分子是困难或不可能的，但可以将它们集中考虑以确定气体的总体特性，例如压力或温度。气体分子有许多潜在的方式以各自的速度在其体积中扩散，但仍然产生相同的集体特性。
可以使用统计物理学来分析各个组件可以共同存在的状态，并计算它们发生的概率。有些状态比其他状态更有可能发生；这取决于可用能量的大小，十九世纪物理学家路德维希·玻尔兹曼用方程描述了这一点。 Hinton 的网络利用了该方程，该方法于 1985 年以引人注目的玻尔兹曼机名称发布。
玻尔兹曼机通常与两种不同类型的节点一起使用。信息被馈送到一组，称为可见节点。其他节点形成隐藏层。隐藏节点的值和连接也为整个网络的能量做出了贡献。
该机器通过应用一种规则来运行，一次更新一个节点的值。最终，机器将进入一种状态，其中节点的模式可以改变，但整个网络的属性保持不变。然后，每种可能的模式都将具有特定的概率，该概率由网络能量根据玻尔兹曼方程确定。当机器停止时，它会创建一个新的模式，这使得玻尔兹曼机成为生成模型的早期例子。
© Johan Jarnestad/瑞典皇家科学院
玻尔兹曼机可以学习——不是从指令中学习，而是从给出的例子中学习。它通过更新网络连接中的值来进行训练，以便在训练时馈送到可见节点的示例模式在机器运行时具有最高的可能出现概率。如果在训练过程中多次重复相同的模式，则出现该模式的概率会更高。训练还会影响输出与机器训练示例类似的新模式的概率。
经过训练的玻尔兹曼机可以识别以前从未见过的信息中的熟悉特征。想象一下，见到一个朋友的兄弟姐妹，你立刻就能看出他们一定有亲戚关系。以类似的方式，玻尔兹曼机可以识别一个全新的例子，如果它属于训练材料中找到的类别，并将其与不相似的材料区分开来。
在其原始形式中，玻尔兹曼机效率相当低，并且需要很长时间才能找到解决方案。当事物以多种方式发展时，它会变得更加有趣，这是 Hinton 不断探索的。后来的版本已被精简，因为某些单元之间的连接已被删除。事实证明，这可能会使机器更加高效。
During the 1990s, many researchers lost interest in artificial neural networks, but Hinton was one of those who continued to work in the field. He also helped start the new explosion of exciting results; in 2006 he and his colleagues Simon Osindero, Yee Whye Teh and Ruslan Salakhutdinov developed a method for pretraining a network with a series of Boltzmann machines in layers, one on top of the other. This pretraining gave the connections in the network a better starting point, which optimised its training to recognise elements in pictures.
The Boltzmann machine is often used as part of a larger network. For example, it can be used to recommend films or television series based on the viewer’s preferences.
凭借 20 世纪 80 年代及以后的工作，John Hopfield 和 Geoffrey Hinton 为 2010 年左右开始的机器学习革命奠定了基础。
我们现在所见证的发展是通过访问可用于训练网络的大量数据以及通过计算能力的巨大增长而实现的。当今的人工神经网络通常非常庞大并且由许多层构成。这些被称为深度神经网络，它们的训练方式被称为深度学习。
快速浏览一下 Hopfield 1982 年关于联想记忆的文章，可以对这一发展提供一些视角。在其中，他使用了一个有 30 个节点的网络。如果所有节点都相互连接，则有 435 个连接。节点有其值，连接有不同的强度，总共需要跟踪的参数不到 500 个。他还尝试了一个有 100 个节点的网络，但考虑到他当时使用的计算机，这太复杂了。我们可以将其与当今的大型语言模型进行比较，这些模型被构建为可以包含超过一万亿个参数（一百万个）的网络。
许多研究人员现在正在开发机器学习的应用领域。哪一个最可行还有待观察，同时围绕这项技术的开发和使用的道德问题也存在广泛的讨论。
由于物理学为机器学习的发展提供了工具，因此观察物理学作为一个研究领域如何从人工神经网络中受益是很有趣的。机器学习早已应用于我们之前诺贝尔物理学奖所熟悉的领域。其中包括使用机器学习来筛选和处理发现希格斯粒子所需的大量数据。其他应用包括减少黑洞碰撞引力波测量中的噪音，或寻找系外行星。
近年来，这项技术也开始用于计算和预测分子和材料的特性，例如计算蛋白质分子的结构，这决定了它们的功能，或者计算出材料的哪些新版本可能具有最佳特性用于更高效的太阳能电池。
有关今年奖项的更多信息，包括英语科学背景，请访问瑞典皇家科学院网站www.kva.se和www.nobelprize.org，您可以在其中观看新闻发布会的视频、诺贝尔讲座等等。有关诺贝尔奖和经济科学奖相关展览和活动的信息，请访问www.nobelprizemuseum.se。
约翰·J·霍普菲尔德 (JOHN J. HOPFIELD)
1933 年出生于美国伊利诺伊州芝加哥。 1958 年获得美国纽约州伊萨卡康奈尔大学博士学位。美国新泽西州普林斯顿大学教授。
GEOFFREY E. HINTON
1947 年出生于英国伦敦。 1978年获英国爱丁堡大学博士学位。加拿大多伦多大学教授。
“通过人工神经网络实现机器学习的基础发现和发明”
科学编辑：Ulf Danielsson、Olle Eriksson、Anders Irbäck 和 Ellen Moons，诺贝尔物理学奖
文本：Anna Davour
译者：Clare Barnes
插图：Johan Jarnestad
编辑：Sara Gustavsson
© 瑞典皇家科学院
2024 年 10 月 8 日
瑞典皇家科学院决定将2024年诺贝尔物理学奖授予
约翰·霍普菲尔德
普林斯顿大学，新泽西州，美国
杰弗里·辛顿 (Geoffrey E. Hinton)
加拿大多伦多大学
“通过人工神经网络实现机器学习的基础发现和发明”
今年的两位诺贝尔物理学奖获得者使用物理学工具开发了为当今强大的机器学习奠定基础的方法。约翰·霍普菲尔德（John Hopfield）创建了一种联想存储器，可以存储和重建图像以及数据中其他类型的模式。 Geoffrey Hinton 发明了一种方法，可以自动查找数据中的属性，从而执行识别图片中特定元素等任务。
当我们谈论人工智能时，我们通常指的是使用人工神经网络的机器学习。这项技术最初的灵感来自于大脑的结构。在人工神经网络中，大脑的神经元由具有不同值的节点表示。这些节点通过类似于突触的连接相互影响，并且可以变得更强或更弱。例如，通过在同时具有高值的节点之间建立更强的连接来训练网络。今年的获奖者从 20 世纪 80 年代起就在人工神经网络方面开展了重要工作。
约翰·霍普菲尔德发明了一种网络，该网络使用一种保存和重新创建模式的方法。我们可以将节点想象为像素。Hopfield 网络利用物理学来描述材料因原子自旋而产生的特性，这种特性使每个原子都成为微小的磁铁。整个网络以相当于物理学中自旋系统能量的方式进行描述，并通过查找节点之间的连接值进行训练，以便保存的图像具有低能量。当 Hopfield 网络输入扭曲或不完整的图像时，它会系统地通过节点工作并更新它们的值，从而使网络的能量下降。因此，网络逐步工作，找到最接近其输入的不完美图像的已保存图像。
Geoffrey Hinton使用 Hopfield 网络作为使用不同方法的新网络的基础：玻尔兹曼机。这可以学习识别给定类型数据中的特征元素。 Hinton 使用了统计物理学中的工具，统计物理学是由许多相似组件构建的系统科学。通过向机器提供运行时很可能出现的示例来训练机器。玻尔兹曼机可用于对图像进行分类或创建其所训练的模式类型的新示例。 Hinton 在这项工作的基础上，帮助启动了当前机器学习的爆炸性发展。
“获奖者的工作已经带来了最大的效益。在物理学中，我们在广泛的领域中使用人工神经网络，例如开发具有特定属性的新材料。”诺贝尔物理学委员会主席 Ellen Moons 说道。
这些插图可免费用于非商业目的。属性“©Johan Jarnestad/瑞典皇家科学院”。
插图：2024 年诺贝尔物理学奖 (pdf)
插图：自然和人工神经元 (pdf)
插图：记忆存储在风景中 (pdf)
插图：不同类型的网络 (pdf)
科普背景：他们利用物理学来寻找信息模式 (pdf)
科学背景：“通过人工神经网络实现机器学习的基础发现和发明”(pdf)
约翰·J·霍普菲尔德 (John J. Hopfield ) 1933 年出生于美国伊利诺伊州芝加哥。 1958 年获得美国纽约州伊萨卡康奈尔大学博士学位。美国新泽西州普林斯顿大学教授。
Geoffrey E. Hinton，1947 年出生于英国伦敦。 1978年获英国爱丁堡大学博士学位。加拿大多伦多大学教授。
奖金金额：1100万瑞典克朗，由获奖者平分。
更多信息：www.kva.se 和 www.nobelprize.org
媒体联系人：Eva Nevelius，新闻秘书，+46 70 878 67 63，eva.nevelius@kva.se
专家：Olle Eriksson，+46 18 471 36 25，olle .eriksson@physicals.uu.se和 Anders Irbäck，+46 46 222 34 93，anders.irback@cec.lu.se ，诺贝尔物理学委员会成员。
瑞典皇家科学院成立于 1739 年，是一个独立组织，其总体目标是促进科学发展并加强科学在社会中的影响力。该学院对自然科学和数学负有特殊责任，但致力于促进各学科之间的思想交流。
Nobel Prize® 是诺贝尔基金会的注册商标。
引用本节
MLA 风格：新闻稿。 NobelPrize.org。诺贝尔奖外展 AB 2024。 周二。 2024 年 10 月 8 日。
