计算和理论神经科学

计算和理论神经科学

海姆·松波林斯基 希伯来大学物理学和神经科学名誉教授，哈佛大学分子和细胞生物学以及物理学教授。 Haim Sompolinsky 在以色列巴伊兰大学获得物理学博士学位。目前，他担任以色列希伯来大学物理学和神经科学名誉教授，以及美国哈佛大学分子和细胞生物学以及物理学教授（常驻）。

由 Haim Sompolinsky 领导的实验室采用统计物理学方法研究复杂神经元回路的涌现动力学和集体行为，以及它们与关键大脑功能（包括学习、记忆、感知和认知）的关系。他的理论预测得到了苍蝇和啮齿动物导航回路研究的实验支持。他的工作阐明了神经元兴奋和抑制之间的动态平衡如何导致大脑活动的混乱而稳定的模式。这影响了我们对神经元活动变异性起源、支撑神经元动力学稳定性的机制以及神经系统疾病中兴奋-抑制平衡破坏的影响的理解。

最近，Sompolinsky 开发了几何方法，为研究人工神经网络和大脑回路中的视觉和语言信息处理提供了一种原则性方法。这项工作揭示了这两个系统之间令人惊讶的相似之处，并为自然和人工系统中智能的协同研究开辟了一条新道路。

海姆·索波林斯基用他自己的话说 我出生于 1949 年，父母是大卫·松波林斯基 （David Sompolinsky） 和伊洛娜·松波林斯基 （Ilona Sompolinsky）。大卫是丹麦人，二战期间是一名医学生，后来成为大屠杀英雄。他与丹麦抵抗运动和普通公民一起，在拯救 700 名犹太人免遭纳粹灭绝方面发挥了关键作用，并于 1943 年 10 月策划了他们逃往瑞典。

在瑞典，大卫遇到了我的母亲伊洛娜，她是一位来自罗马尼亚的年轻女子，她在大屠杀中几乎失去了整个家庭。战争结束后，她被送往瑞典进行康复治疗。在那里，我的父母结婚了，后来搬回了哥本哈根，我在那里出生，是一个有十个孩子的家庭中的第三个。

海姆照片 1：我的父母 我的父母 1951 年，我们全家移民到以色列，我在 Asaf Harofeh 医院附近的 Rishon Le’Zion 长大，我的父亲是一名微生物学家，除了在巴伊兰大学建立微生物学系外，还在那里领导细菌学实验室。在七十多年的时间里，他致力于微生物学的基础和临床研究。我们家遵守犹太法律和习俗，但在许多方面却很不寻常。通过我父亲的一生，我学会了宗教仪式和学术之间的平衡，对以色列——犹太人民的古老和现代家园——的深深热爱——世俗的学术生涯，以及对普世人类价值观的坚定奉献。

高中毕业后，我在塔木德学院 Ponevezh Yeshiva 投入了三年的强化学习。在此期间，我培养了长时间专注于挑战性问题的能力，并磨练了我的时间管理技能。塔木德的审议和辩论教会了我质疑共识，并不断从新的角度处理旧问题。然而，我发现那里呈现的研究范围和世界观是单调的、狭隘的，并且过度依赖对权威的不加批判的接受。

海姆照片2：我和老师 我和老师 三年后，我觉得自己已经准备好规划自己的路线了。我开始在巴伊兰大学攻读物理和数学本科。虽然我受到纯数学的美丽和优雅的启发，但用数学来解开自然世界奥秘的可能性产生了更强的吸引力。理论物理学完美融合了数学理论和实证应用，促使我在 Marshall Luban 教授和 Shlomo Havlin 教授的指导下攻读理论凝聚态物理学博士学位。我对铁电材料结构相变的研究教会了我如何发展和解决凝聚态统计力学中的近似理论，以及如何根据实验数据验证这些理论。

在此期间，我有幸嫁给了 Elisheva，一位来自 Kirschenbaum 家族的杰出女性，在美国出生和长大。我们一起建立了自己的家，为我们的家庭创造了一个养育环境。Elisheva 一直是我生活的基石;娶她感觉就像中了彩票。她的智慧、爱心和坚定不移的支持对于我追求高要求的职业的能力至关重要。我们一起分享了抚养五个孩子的喜悦，以及看着我们的家庭成长为二十二个孙子的祝福。观察这些令人难以置信的人的发展和茁壮成长让我们充满了巨大的喜悦和惊奇。

在完成博士学位并履行兵役义务后，我们搬到了波士顿，在哈佛大学伯特·哈尔珀林教授的指导下，我开始了理论凝聚态物理学的博士后研究。这一转变标志着我人生中的一个关键时刻，深刻影响了我的科学身份。事实证明，伯特是一位杰出的导师，他将严格的标准与深厚的知识和非凡的知识相结合

物理学的直觉。他驾驭复杂理论和解释常常令人眼花缭乱的实验数据的能力深刻影响了我的科学探究方法。

海姆照片 3：我和我的妻子 和我的妻子 选择研究重点具有挑战性，因为我寻求的主题仍然难以捉摸。我被“自旋玻璃”的话题所吸引，这是一类以结构无序为特征的磁性系统，就像普通玻璃一样，迄今为止一直没有得到一致的理论解释。我开发了一种理解自旋眼镜的新方法，将焦点从其静态特性转移到动力学，揭示了以“谷中谷”层次为特征的多尺度动力学和复杂的能量景观。我们与另一位博士后 Annette Zippelius 合作，研究了一个复杂的统计力学框架，即动态均值场论。自旋玻璃理论和动态均值场理论后来在推进神经回路理论方面变得非常宝贵。

海姆照片 4：我的博士后导师 Bert Halperin 教授 Bert Halperin 教授，我的博士后导师 完成博士后研究后，我回到以色列，在巴伊兰大学担任物理学副教授。与此同时，我扩大了我的国际合作，特别是与贝尔实验室的合作，在接下来的几年里，我在那里度过了大部分时间。

三年后，我被任命为耶路撒冷希伯来大学拉卡物理研究所的教授，这一举动是由我的希伯来大学同事、物理学家丹尼尔·阿米特和哈诺奇·古特弗伦德精心策划的。1983 年左右，我们开始合作将自旋玻璃理论应用于神经网络，这标志着我们进军神经科学领域。约翰·霍普菲尔德 （John Hopfield） 1982 年关于神经网络和物理系统新兴能力的开创性论文激起了我们的兴趣。霍普菲尔德在神经网络中的内存存储与磁自旋系统的行为之间进行了诱人的类比，并概述了一种通过神经动力学的吸引子态实现的计算方式，类似于物理系统中的能量最小值。我们决定尝试应用统计力学来研究霍普菲尔德模型。我们很快意识到，我的专业领域自旋玻璃理论为这项工作提供了完美的框架。我们的研究表明，这些网络构成了一类独特的系统。与自旋玻璃不同，记忆诱导的可塑性会产生重要的结构，但编码数据的复杂性导致了比标准均匀系统更复杂的能量景观。

除了绘制联想记忆系统的显着能量景观外，这项工作还对记忆容量进行了严格的评估，使许多物理学家相信从理论物理学的角度研究神经回路和计算的价值，特别是通过自旋玻璃理论的视角。这些最初的努力有助于塑造计算神经科学的新兴领域，并牢固地将物理学确立为其基本概念和计算支柱之一。

阿米特、古特弗洛因德和我开始与希伯来大学神经生物学家讨论神经网络。这些早期的互动凸显了学科文化之间的巨大鸿沟，这在符号、术语和隐喻的差异中显而易见。一个群体认为重要的东西往往被另一个群体视为仅仅是细节，反之亦然。尽管如此，我们逐渐找到了共同点，双方都走出了自己的舒适区。合作最终发展到包括计算机科学家和心理学家，最终于 1992 年建立了神经计算跨学科中心 （ICNC），这是一个新的计算神经科学研究和研究生培训中心。在希伯来大学。

贝尔实验室是多学科合作的另一个堡垒。作为一个工业研究实验室，它不受学术机构典型的严格学科界限的限制。在访问贝尔实验室期间，我与对生物学产生浓厚兴趣的诺贝尔物理学家菲尔·安德森（Phil Anderson）和神经网络先驱约翰·霍普菲尔德（John Hopfield）等人进行了交流。我还与经营实验性神经生物学实验室的才华横溢的年轻生物物理学家进行了互动，例如 David Tank、Winfred Denk 和 David Kleinfeld。因此，最初是理论物理学的练习，在几年内转变为理论和计算神经科学研究。

在贝尔实验室期间，我遇到了来自哈佛大学的聪明物理学博士生塞巴斯蒂安·盛（Sebastian Seung），他后来加入了我在希伯来大学的实验室，成为我的第一位博士后研究员。此后，塞巴斯蒂安已成为计算神经科学领域的领军人物和连接组学领域的先驱之一。我非常幸运能与一群才华横溢的学生和博士后研究人员一起工作，他们的创新理念、技能和敬业精神对于我的研究成功是不可或缺的。我为他们中的许多人成为杰出的科学家而感到自豪，为理论和计算神经科学的进步做出了重大贡献。

海姆照片5：海姆与前初级同事 与前初级同事 在我的整个职业生涯中，我有幸与杰出的实验家合作并向他们学习。纽约大学的鲍勃·沙普利 （Bob Shapley） 向我打开了视觉科学的世界，指导我了解灵长类动物视觉皮层的复杂解剖学和生理学。当时在哈佛大学的马库斯·迈斯特（Markus Meister）和我合作破译了视网膜神经密码的一些复杂性。弗洛里安·恩格特 （Florian Engert） 和杰夫·利希特曼 （Jeff Lichtman） 向我介绍了全脑神经科学领域，特别是斑马鱼幼虫。希伯来大学的 Eli Nelken 和 Adi Mizrahi 提供了对听觉处理的全面见解。

计算神经科学已逐渐走向神经科学研究的前沿。新的电生理、光学和磁成像技术的革命性发展促进了这种转变，这些技术使神经科学家能够绘制出大型神经元回路的结构并监测其活动，有时具有细胞甚至亚细胞分辨率。因此，神经科学已经进入了大数据领域。这些广阔、高分辨率的数据集不仅揭示了神经元回路固有的巨大复杂性，而且还强调了这样一种认识：在大大脑中，计算是一项集体努力：它分布在大量的神经元中，受到非线性和上下文因素的影响。解释这些系统需要应用最初在物理学中开发的工具，这些工具强调与大型电路的集体动态模式密切相关的涌现计算。

鉴于我在旋转眼镜方面的背景，我很自然地很早就将注意力转向神经回路的动力学。我最初的工作旨在解决有据可查的、无处不在的神经元活动不规则模式，其起源当时还是个谜。我们与意大利物理学博士生 Andrea Crisanti 和德国物理学家 Hans-Jurgen Sommers 合作，发现具有强大随机连接神经元的神经回路进入混沌状态，产生内在的不规则时空活动模式。随机神经网络中的混沌成为非结构化神经回路集体动力学的规范模型，在神经科学以及机器学习中研究的人工神经回路中具有广泛的应用。

后来很明显，随机回路模型未能解释皮质和其他大脑回路的一个关键方面：不同细胞类型、兴奋性和抑制性神经元的存在，以及它们相应的不同突触通路。又花了八年时间才为这种网络制定一个全面的理论。我们与博士后研究员 Carl van Vreeswijk 一起发现，由强兴奋性和抑制性突触电流组成的回路可以动态地相互平衡，实现以内在混沌时空变异为特征的平衡状态。这一特性和其他特性反映了在众多神经元回路中观察到的集体行为。兴奋和抑制之间的平衡成为健康状态下皮层发育和功能的关键原则。兴奋抑制失衡是各种神经和精神疾病中回路功能障碍的特征。

在此期间，越来越多的证据指出了另一个基本的皮质之谜：局部皮质回路内的神经元主要相互相互作用，因此来自感觉器官的输入起着令人惊讶的作用。这个明显自相矛盾的发现促使我开发了一个简单的神经回路模型，称为环模型，其中神经元对之间的相互作用是根据它们彼此之间的功能距离来调节的。通过应用物理学中的“对称性破缺”概念，我证明了网络可以表现出连续的吸引子态流形。每种稳定状态或“凸起状态”的特征是神经元活动集中在环上的特定位置周围，不同的初始条件导致凸起在不同位置稳定。微弱的外部信号足以将凸块移动到与其对齐的位置。此后，环吸引子模型已被推广到更高维度，包括二维环形流形。直到最近，随着对飞行导航系统中此类网络的观察，通过一系列精美的功能和结构测量揭示了环状电路中凸点态流形的直接实验验证。最近发现的啮齿动物内内嗅皮层网格细胞系统中的潜在环形流形以及其头部方向系统中的环形流形，对这一概念的额外支持出现了。计算神经回路的动力学表明，大脑是丰富的时空活动模式的生成器，服务于无数功能，从梦境和意象到制定关于世界状况的假设，以及促进自发的思考和创造力。

从 20 世纪最后十年到 21 世纪第一个十年，理论神经科学已经向多个方向分支。其中之一是神经网络学习的研究，受到工程和计算机科学日益增长的兴趣的刺激。伊丽莎白·加德纳 （Elizabeth Gardner） 的开创性工作开创了统计物理学方法，她证明了统计力学在表征正在学习的神经网络中突触连接矩阵的集体状态的适用性。加德纳理论引发了一波受物理学启发的神经网络学习研究浪潮，并影响了我最近在神经流形方面的工作。然而，生物学考虑往往需要不同的关注点。其中一项努力是开发真实神经元的学习规则——与人工神经元不同，真实神经元通过离散的尖峰进行通信。这包括 Larry Abbott 及其同事对无监督尖峰时间依赖性可塑性 （STDP） 的研究，以及我和 Robert Gütig 开发的监督 Tempotron 学习规则。其他无监督学习规则，例如由 Terry Sejnowski 和 Tony Bell 开发的 ICA 算法，引入了神经数据分析的新方法，并为神经代码提供了新的见解。强化学习由 Peter Dayan 及其合作者研究，成为一个强大的框架，用于检查目标导向行为、决策和规划的原理，阐明大脑奖励系统的功能。

该领域的这一显着进展为理解神经元回路的动力学和功能以及它们如何被经验塑造奠定了坚实的基础。计算和理论神经科学已经确保了其在主流神经科学中的作用，全球跨学科脑科学中心的建立就证明了这一点。在希伯来大学，我们与杰出的科学家和远见卓识者、神经生理学家 Eilon Vaadia 和理论神经生物学家 Idan Segev 一起，在大学领导层和慷慨捐赠的支持下，于 2009 年成立了 Edmond 和 Lily Safra 脑科学中心 （ELSC）。这个最先进的设施配备了世界一流的研究实验室、核心设施和博士课程。ELSC 倡导多学科大脑研究，重点强调定量和理论方法，以独特设计的博士课程为特色，旨在培养计算和理论神经科学领域的下一代领导者。

在新千年的初期，我与哈佛大学的神经科学界开始了长期合作。我利用我在希伯来大学的经验，为乔什·萨内斯 （Josh Sanes） 领导的新脑科学中心的神经回路、行为和计算议程做出了贡献。自 2022 年从希伯来大学退休以来，我一直在那里担任全职教授。最近在哈佛大学成立的肯普纳自然与人工智能研究所标志着大脑和机器认知多学科研究进入了一个令人兴奋的新阶段。

海姆照片 6：与其创始人一起建造 ELSC 住房（Eilon Vaadia，右;伊丹·塞格夫，左） 与其创始人（Eilon Vaadia，右;伊丹·塞格夫，左） 最近的人工智能研究表明，具有突出分层（“深度”）结构的人工神经网络能够学习复杂的认知功能，有时甚至达到人类水平的性能。这一突破为我们提供了试探性的强大神经网络模型，用于研究大规模大脑网络中的复杂认知处理，预示着理论和计算神经科学的革命性时代。在过去的十年中，我的研究重点是开发利用深度网络和生成式人工智能的神经处理新理论。这项研究和其他研究得出的是几何概念（例如神经流形和潜在低维嵌入）在揭示处理复杂信号的复杂电路中神经元表征背后的规律性方面的效用。

海姆照片 7：和我们的孩子在一起 和我们的孩子一起 这一研究仍处于早期阶段。随着我们的进步，我们预计会识别真实网络和人工网络之间的异同，每一项发现都会推动我们对大脑功能的理解。目前，人工智能系统的能力与动物和人类的能力之间存在显着差异。对大脑的更深入理解将产生更先进的人工智能系统。关于人工智能系统对特定扰动的脆弱性已经有很多讨论，但大脑表现出自己形式的脆弱性。我希望人工智能系统能够更深入地了解将分子和细胞病理学与认知障碍中观察到的系统功能障碍联系起来的复杂机制。

我认为，生活在一个我们对人脑的理解（它如何支撑认知、行为和能动性）取得了显着进步的时代，以及机器智能的兴起，具有非凡的前景和重大风险，这是一种荣幸。这些发展迫使我们重新审视和完善我们对个人和社会身份的概念，并重新划定我们生活中神圣与世俗、世俗与崇高之间的界限。

海姆照片 8：与我们的孩子、他们的配偶和孙子孙女在荷兰全家度假 与我们的孩子、他们的配偶和孙子们一起在荷兰家庭度假 大脑奖 由灵北基金会颁发 联系 免责声明和隐私 访问我们 X 优酷 蓝天 灵北基金会标志 灵北丰登 Scherfigsvej 7 DK-2100 哥本哈根 丹麦 CVR 11814913

lundbeckfonden.com