机器之心原创
作者：Shuchen Wu
修改：Hao Wang
这儿介绍几篇核算神经学范畴的谈论文章，论文首要概述理论核算神经学近几年来在多个方面的研讨发展。核算神经学是用理论办法去研讨大脑的核算的学科。这些论文来自于 Neuron 杂志的特刊:「How does the brain work」。这篇特刊邀请了来自不同研讨方向的试验神经学家和理论神经学家来讨论人类大脑的理论，发展和假说。
以下的文章都能够在 https:///journal/neuron/vol/94/issue/5 里找到。以及本文一切图片均来自于原文章。
论文1：Space-Time Dynamics of Membrane Currents Evolve to Shape Excitation, Spiking, and Inhibition in the Cortex at Small and Large Scales
一个神经元向方针神经元传递激动，激动抵达方针神经元时转化为膜电流。由此办法，方针神经元承受到必定的电流后，就会发生强壮快速的膜电流，动作电位，或许激动。本文首要介绍了各种神经元膜电流与脑区相互影响所发生的小规模和大规模的活动现象里调查到的规则。
神经元首要分为两种，一种是振奋神经，另一种是按捺神经。振奋神经的激动抵达其受体神经元会使受体神经元膜电流添加，使受体神经元更简略发生并发射激动信号。按捺神经元则相反，其激动抵达其受体神经元会使受体神经元膜电流削减，然后受体神经元更难以发生发射给其受体神经元的激动信号。
在中枢神经里神经网络膜电流的活动分为四种。第一种是自发的异步不规则激动状况，第二种是无激动的状况，第三种是活性激动的状况，第四种是没有激动信号的缓慢震动状况。这些状况的切换办法有时分是单一的神经元活动能够影响一个神经网络，在其他情况下，一个相邻神经网络的活动也会影响单个神经元的活动。本文要点介绍在中枢神经内膜电流在前两种状况下小规模和大规模的活动。
自发的异步不规则激动状况：这种状况一般是大脑没有感官信息的输入，比方细微麻醉状况下的动物，或许被皮质其他区域的网络自发活动带动。这种自发的情况下，膜电位多是异步地有不规则动摇。而且振奋神经和按捺神经对膜电位的操控有紧凑的平衡。大大都神经元不放电。少数神经元放电频率缓慢，不规则，而且紊乱。按捺神经放电来中和振奋神经的放电。在微观尺度上，网络是平衡的，也便是振奋神经对膜电位的升高和和按捺神经对膜电位的下降构成一种平衡的状况，可是这种平衡也不是瞬间就抵达的，不然网络就不会放电，而是一种长时刻的动态平衡状况。
活性激动的状况：神经网络从自发的异步不规则激动状况转而到活性激动的状况需求打破之前紧凑的平衡状况，然后膜电位的动摇打破临界进入大都神经元放电的状况。假如一个脑区进入活性激动的状况，那么这种活性激动的状况能够传达到不同等级，不同阶级的其他脑区。这种状况下的振奋-按捺平衡就不是紧凑的了，而进入一种推迟的平衡状况。由于振奋神经能够快速习惯这种状况，而原先用来按捺这些振奋神经的按捺神经习惯性欠好，这种平衡被推迟了。在介观尺度上，一群振奋的神经元，在一段推迟后，被按捺信号所平衡。比方下图是一个脑区膜电位导数随时刻的改动（红黄绿为振奋效果，蓝黑为按捺效果），可见初始时的振奋效果随时刻被按捺效果代替，抵达推迟的振奋-按捺的平衡状况。
谈论：在现有的人工神经网络里并没有动态平衡相似的算法，本文所介绍的振奋神经和按捺神经导致的膜电位动态平衡，不知道该机制对大脑核算有哪一些方面的协助，以及为什么在不同的状况下他们的活动也不相同。
下一篇文章就介绍了振奋神经-按捺神经坚持动态平衡的状况时对网络的学习的效果。
论文2：The Brain as an Efficient and Robust Adaptive Learner
大脑里大大都神经元循环递归地衔接其他的神经元，而且大大都神经元要经过多层的衔接才干抵达直接承受感官的神经元和直接操控肌肉运动的神经元。这种核算架构，假如仅仅是使用相邻神经元之间的可塑性，很难学会像辨认感官信息，操控运动这样需求运用许多神经元的使命。一起，生物试验指出：神经元的活动是十分耗费能量的，生物体 20% 的能量需求耗在神经信息处理上。而且，假如只观测单一的一个神经元，会发现单一神经元它发射电信号的改动性十分大，以至于用同一种影响物导致神经元放电，每一次丈量同一个神经元的活动都不相同。而且，经过丈量多个神经元，研讨人员发现，单个神经元的活动改动难以用其时在履行的使命或许影响物来解说，而与其相邻的神经元的活动更能解说该神经元的活动。那么，表面上来看，大脑用这么多噪音极大，而且相互影响的神经元来核算看起来既没有功率，又糟蹋能量。
尽管最近许多人工神经网络，比方循环，卷积神经网络在这些方面多有使用。可是这些算法需求的反向传达的学习办法是不行能在生物脑里完成的 (Feedback Alignmentan 算法在外，可是 Feedback Alignment 至今在高纬度的图像辨认使用上还不成功)。那么大脑里的神经元又是怎样学习的呢？
文章作者以为，这些看似对立的脑神经元特性，用两个元从来解说，就能表现大脑里的神经元其实是强壮高效的核算元。一个是神经元相互之间紧凑的振奋与按捺机制。另一个是从上到下的过错反响，改动衔接强度和回路的活动。这样的话，生物神经网络能够对任何一个动力体系的活动进行学习。
模仿一群神经元，他们承受跟着时刻改动的输入信息 s，教育信号$x^d$，意图是输出教育信号的近似$x$, 以及所要近似的函数 f(x)。如上图 A：神经元的输入是输入信息 s 与输出的函数，对自我动态的预估，和自我活动与教育信号的差值。这样一群神经元，有了以上的反响回路，他们学习的意图是使得输入的信号为零，这样就代表体系现已对自我动态，教育信号，以及所要学习的函数有了很好的猜测。这样一群神经元他们一起经过两种时效不同的办法学习，一是经过监督信号$x^d$关于全体神经元反响来调整衔接强度，这一进程相对慢；二是经过振奋性神经元和按捺性神经元之间的可塑改动，使得按捺神经活动紧跟振奋神经，这样学习的进程相对快。
上图 C 中是关于该学习办法模仿的成果。可见经过学习去近似蓝线，神经元的活动能够从 D 的左图到 D 的右图, 抵达神经元活动（红线）近似于蓝线的状况。
谈论：文章作者给出了生物神经网络作为一个动力体系能够对任何一个动态函数近似的思路，而且这种思路能够用来解说上文提到过的动态平衡的核算效果，十分风趣。
论文3：Hierarchy of Information Processing in the Brain: A Novel 'Intrinsic Ignition' framework
原文来自：https:///science/article/pii/S0896627317302404
在这篇谈论里，作者提出了一个「自发点着」的研讨思维结构去了解大脑信息处理的不同等级。"自发点着」的思维结构是指：在全脑整合的活动下，信息从空间上的一个本地节点（能够是一个神经元或许一个脑区）经过前馈（feedforward) 或许递归的办法传递到到网络上其他节点的才能。
研讨健康的与带有疾病的大脑在认知，感知和运动功用的运算是一个十分杂乱的使命，由于大脑里有十亿个递归的，用突触衔接的，而且品种各异的神经元。这些神经元和突触的活动都有很强的非线性特征, 耦合的前馈的和反响的衔接使得大脑成为一个十分杂乱的非线性动力体系。至今研讨大脑这样的动力体系的首要办法有三种：一是寻觅神经元与大脑履行的使命的相关性。比方在初级视觉皮层，调查单一的神经元活动与视觉影响物的相关性。一旦确认这样的相关性，研讨员就能够测验其间的因果联络去了解神经元的功用。第二个办法是去丈量神经元在没有外界影响情况下的脑区之间的自发性运动。可是这样的剖析只能了解到脑区活动之间的相关性，而非因果联络。第三则是去搅扰体系，首要用在动物试验上，比方用手术办法使神经元病变，或许用电极去影响神经元。作者指出，"自发点着」作为一种大脑固有的搅扰，能够作为一种新的研讨办法去了解信息是如安在大脑所在的状况下从一个脑区传递到其他脑区。这样就能够去研讨大脑神经网路各个神经元之间在时刻与空间上传递信息的才能。
神经核算的等级：
作者提出，「自发点着」这样的结构能够用来探究神经元之间核算的等级。
尽管现有的神经衔接组学能够用图论的办法去研讨大脑神经元解刨结构（physical connectivity）的拓扑等级，可是神经元解刨结构上的等级联络不必定能够对应神经元对信息的动态处理的等级联络。经过「自我点着」的结构能够研讨和答复后者这个很重要的问题。
作者将信息处理的等级联络分为几种。一种极点是核算元于核算元之间不存在等级联络；每个核算元都有相同的重要性，如上图 A。另一个极点是强等级联络，而且等级之间是均匀的分层次的，如上图 D。假如一个神经元在这样线性的等级联络的顶端代表它有最高的「自燃」性，也便是它的活动能够影响到等级较弱的神经元。在两个极点的等级联络之间有楼梯等级联络，也便是存在较少的等级，而且高档其他核算元「自燃」性更强，初级其他核算元「自燃」性更弱，如图 B。别的一种是强等级联络，但等级之间层次不均，如图 C。作者经过对核磁共振数据的剖析，总结出大脑在「自发点着」的情况下更倾向于这一种等级联络。
谈论：作者提出了一个相对新颖的研讨结构来了解大脑信息处理。特别适用于核磁共振，EEG 等丈量许多脑区非侵入性的试验数据。而且结合图论和杂乱网络的理论研讨办法，把脑区活动于动物其时的状况结合，能够用来了解许多东西。以用关于杂乱网络以及图论的常识剖析信息在大脑之中的传递。可是作者把大脑信息处理等级分类，而且经过处理 FMRI 数据总结出大脑倾向于强等级联络的定论并不令人惊奇。究竟图 C 的等级联络也是是最大熵的等级联络。
论文4：Optimizing Neural Information Capacity through Discretization
怎样去了解像大脑这样杂乱的生物体系里边不同的电路，电路元件，蛋白和细胞品种呢？
作者提出能够从以下三点动身，来了解生物体系的核算，而且体系上地解说生物的杂乱性：
杂乱的体系能够由多个量化的简略体系所构成。
生物体系需求最大化信息传递。
推陈出新对能量的约束。
了解神经元的核算原理，理论上需求了解一个体系是如安在能量有限的条件下有效地组合量化的信息处理单元去表达体系被输入的在某个规模的信息。那么怎样组合量化的神经核算元呢？作者以为，最优的组合形状取决于各个神经元的牢靠性和噪声强度。这儿的噪声是指神经元对同一个输入电流反响的噪声，一般神经元会有必定宣布电激动的概率，可是并不是每一次相同影响条件都会导致相同的成果。
经过组合这样的神经元有两种办法能够得到像逻辑门相同的非线性信息处理元。一种是冗余编码。假如每个神经元激起的临界值都很附近，而且遇到外界影响的反响也相似，那么这些神经元都能够被归作一个类别。一群这样相似的神经元取均匀数，就能够得到比单个神经元更牢靠的核算。别的一种组合办法是各个神经元都有不同的临界值，加权均匀各个神经元的活动，这种办法更相似于散布式的编码，特别适用于需求编码的反响函数和单个神经元的反响函数彻底不同的情况下。
冗余编码和散布式的编码 在不同情况下各有好坏。当每个神经元都有噪音且不行靠的情况下，冗余编码相较于散布式的编码能够传递更多信息。而当每个神经元的牢靠性高于一个临界值时，依据每个神经元都有不同临界值的散布式的编码能传递更多的信息，而且当神经元的临界值散布对应输入的散布的时分，这种信息传递能够最大化。
谈论：这篇文章的作者用一种物理学的思维办法考虑神经核算的问题，这种思路深入并带有启发性。可是行文缺少条理，有些相似于在时刻压力下写出并宣布的。
论文5：Inference in the Brain: Statistics Flowing in Redundant Population Codes
当咱们对感知信息进行处理时，咱们需求经过高度不确认性的感官信息来揣度外部国际的特性。感知需求用近似的概率推理去从含糊的感知数据来估测变量与变量之间的因果联络，而且预算这些特性的概率。比方当咱们伸出手去拿一个杯子的时分，咱们并不知道杯子的三维坐标，而是经过对视觉的感应和拿到杯子的感觉来作出这样的行为的。不确认性是感知体系不行避免的特点，概率推理则是处理这样的信号的最有价值的办法。
那么咱们的大脑是怎样去对感知信息进行概率估测的呢。假如要了解神经元的对概率估测的原理，咱们需求了解信息是怎样在非线性的循环递归网络里边传递的。作者提出，大脑或许在用冗余神经元履行音讯传递算法。
运用这种思路能够从以下三个方面去了解神经元的核算。一方面是感官信息怎样「编码」到神经元的活动上。一方面是神经元的活动形式被「转录」的动态转化。另一方面是神经信号是怎样「解码」去发生行为的。
对感官信息的「编码」能够用散布式概率图模型表达。由于感官国际有着杂乱的概率联络。作者以为，大脑假定只要少数的变量之间有很重要的联络，这种联络能够用概率图模型来表明。
那么这样的概率图模型是怎样被神经元的活动来表明的呢？每一个感官变量的信息传递给和许多对该变量有电激动反响的神经元。反过来，同一个神经元或许对多种感官信息都有反响。作者以为，两者加起来意味着大脑对感官信息的编码是散布式复编码。经过用一群相互影响的神经元表明概率图模型能够去近似高纬度的概率散布（尽管怎样有效地近似仍是一个研讨范畴）。
「转录」表明从神经元的活动形式的动态转化。大脑需求对信息进行转录来取得有用的信息。这种转录能够对错线性的，这样一能够独立出与使命相关的躲藏变量，二能够更新用来概率估测的参数。这样对信息的转录能够用多层信息处理的网络来近似这样的非线性函数，而且这样的处理需求依据不确认性的改动而改动。那么转录是如安在循环递归的生物神经网络里进行的呢？作者提出，很或许是经过生物神经元履行的信息传递算法。这些算法包含 belief propagation, expectation propagation, mean-field inference, 以及一些随机取样算法等等。
神经元的"解码"能够了解为对概率的操控。这些操控包含有模型的操控和没有模型的操控。前者表明动物有个自我行为和国际工作的联络的模型，这样的话挑选一个好的行为就相似于一个最优的操控问题，动物想要经过对现在以及未来的躲藏变量的估测来最优化获取的奖赏。这样的话概率估测对行为也有指导效果。后者指动物仅仅对各种行为和它们的奖赏值树立一个查找表。
谈论：感知近似的概率推理这种主意在之前就被休谟，康德以及柏克莱等哲学家就有提到过。把经历哲学的这一思维和神经学核算结合起来，假如神经网络由感知揣度概率图模型，而且神经元活动能够了解为概率取样，这样又能够解说单一神经元活动的随机性，又能够解说感知推理的神经机制。可是这种假定牵引出许多理论上也未处理的问题，比方作者提出的神经元对感知进行的散布式复编码，它的机制是什么，散布式的核算元又是怎样学习一个解说感官国际的概率图模型的。以及如安在试验上怎样验证这样的假定。这些问题都需求合理的解说。
剖析师简介：Shuchen 现在在图宾根大学人工智能研讨所与马克斯普朗克智能体系做研讨实习，项目研讨怎样使深度神经网络的图像辨认更接近于人类的视觉辨认。本科物理，核算神经硕士。首要研讨爱好在于寻觅生物学习的的核算模型。欢迎沟通。
本文为机器之心原创，转载请联络本大众号取得授权。
------------------------------------------------
