半岛o客服文章:人工神经网络的灵感来源

由拉里•梁在InetSoft首席技术官半岛o客服

在这篇文章中,继续我们介绍机器学习,我要写一点关于真实神经元和真正的大脑提供人工神经网络的灵感,我们努力学习在这一系列文章中。在大多数的讨论中,我们不会谈论很多关于真正的神经元,但我想给你一个快速概述。

有几种不同的原因来研究网络的神经元如何计算的东西。首先是了解大脑是如何工作的。你可能认为我们可以通过大脑的实验,但它是非常大的和复杂的,它死后闲逛的时候太多了。

所以我们需要使用电脑模拟来帮助我们理解我们所发现的实证研究。第二个原因是理解一个样式的并行计算受大脑可以计算与大平行网络可以从真正的神经元。如果我们能明白的并行计算风格我们可以做出更好的并行计算机。

非常不同的方式计算是以传统串行处理器。应该是非常好的视野,等事情的大脑善于还应不利于大脑不擅长的事情喜欢把两个数字相乘。第三个原因,相关的讨论,是解决实际问题通过使用小说灵感来自大脑的学习算法。

这些算法可以非常有用,即使他们没有大脑是如何工作的。所以在大部分的讨论中,我们不会谈论太多关于大脑如何工作。它只是作为灵感的来源告诉我们大平行的神经元网络可以计算非常复杂的事情。

所以,以后关于大脑如何工作。典型的皮质神经元有一个总物理结构,由一个胞体和一个发送消息到其他神经元的轴突和树突树从其他神经元接收消息。在一个神经元的轴突接触另一个神经元的树突树结构称为突触。

飙升的活动沿着轴突旅行使电荷注入的突触后神经元突触。神经元产生一个峰值时已经收到足够的电荷在其树突树去偏光胞体的一部分称为轴丘,当发送一个冲动就去极化的轴突,调整去极化波的峰值,沿着轴突的旅行。

突触也有趣的结构。它们含有小泡的化学递质,当到达轴突的一根刺,它会导致这些囊泡迁移到表面,被释放到突触间隙。有几种不同类型的发射机的化学物质。有那些实现积极的权重,实现负权值。

发射机分子分散在突触间隙和绑定到突触后神经元的细胞膜受体分子,并绑定到大分子膜他们改变他们的形状,形成孔洞膜。这些漏洞允许特定离子流入或突触后神经元,这改变了他们的去极化状态。

突触适应,这就是学习的大部分时间里,改变突触的有效性。他们可以适应不同的囊泡的数量得到时释放高峰到来或数量变化敏感的受体分子释放了发射机的分子。

突触是非常缓慢和计算机内存相比,但是他们有很多优势的随机存取存储器的计算机。他们非常非常小,低功耗,可以适应。这是最重要的财产。他们使用本地可用的信号来改变他们的优势,这就是我们学会执行复杂的计算。这个问题,当然,是他们如何决定如何改变他们的力量吗?如何适应的规则是什么?

每个神经元接收输入来自其他神经元。的一些神经元受体接收输入。这是一个大量的神经元,但只有一小部分。和大脑皮层的神经元相互通信发送这些峰值的活动。

的影响神经元的输入行是由突触权重可以积极或消极的,和突触权重调整和适应这些权重,整个网络学习执行不同类型的计算,例如,识别物体,理解语言,制定计划,控制身体的运动。

你有大约10的11次方神经元,每一种都有10的4权重。所以你可能有10的15日或者10 o 14突触权重,和大量的这些重量,相当大部分的他们,会影响正在进行的计算在一个非常小的比例的第二,在几毫秒。这是更好的带宽存储知识甚至比现代工作站。

最后一点对大脑皮层是模块化的,或者至少它学会模块化。不同的皮质最终做不同的事情。基因,从感官的输入到大脑皮层的不同部分,并决定了他们最终做什么。如果你损害大脑的一个成年人的时候,当地的大脑损伤会导致特定的影响。

损坏一个地方可能会使你失去你的语言理解能力,和伤害到另一个地方可能会使你失去你的能力来识别对象。我们知道很多关于函数位于大脑,因为当你使用大脑的一部分做一些需要能量。

因为它需要更多的血流量,你可以看到大脑扫描仪的血液流动。允许你看到大脑的哪位您使用的特定任务。但是值得注意的是皮质看起来差不多,这强烈表明,它有一个相当灵活的通用学习算法。还建议的事实,如果你在早期损害大脑功能会迁往大脑的其他部分。这不是基因预先确定的,至少没有直接,大脑的哪一部分将执行哪些功能。

雪貂宝宝有令人信服的实验显示,如果你切断输入来自于耳朵的听觉皮层,而对光的视觉听觉皮层的输入,然后旨在处理声音的听觉皮层会学会处理视觉输入和创建神经元非常喜欢视觉系统的神经元。

这表明大脑皮层是由通用的东西,有能力变成专用硬件在应对经验,为特定任务,给你一个很好的结合的快速并行计算。一旦你学习+灵活性,这样你就可以学习新功能,所以你学习做并行计算。

很喜欢你建立一些标准并行硬件之后建立,你输入的信息告诉它什么特定的并行计算。传统计算机获得灵活性通过存储顺序程序,但是这需要非常快的中央处理器访问行顺序程序并执行长期连续计算。

前一:设置应用机器学习

下一个:简单模型的神经元