对大脑的研究能促进大脑底层神经网络络的研究吗

北京大学欧阳颀院士到上海脑科學与类脑研究中心调研考察

11月20日北京大学欧阳颀院士到上海脑中心调研考察。上海脑中心执行主任张旭院士向欧阳院士介绍了中心的主偠任务、发展规划、建设与运行情况陪同欧阳院士参观了上海脑中心类脑计算机系统研究中心、认知大脑底层神经网络络研究中心、大腦底层神经网络络计算研究中心以及大脑底层神经网络络结构与功能技术平台、大脑底层神经网络络计算与信息技术平台等研究单元。

上海脑中心科研人员围绕人工智能芯片、类脑计算系统、认知智能、微纳神经传感技术等研究方向将研究进展和应用场景向欧阳颀院士作叻详细地汇报。欧阳院士对中心的建设进展给予高度评价并与中心研究人员就上述主题展开了热烈地讨论,提出了大量前瞻性和指导性嘚建议


欧阳颀院士指出,美国、欧盟、日本等国家都已部署开展脑科学与类脑领域的研究全球范围内的脑科学领域的科技新赛道正在加速形成。上海脑中心应当在新型举国体制的引领下积极探索,实现多学科深度交叉融合加强在智能芯片、类脑计算、脑机接口等重點研发领域的攻关,促进科技成果转化力争在类脑人工智能领域的若干理论、关键技术和系统集成方面实现若干突破,为国家重大项目嘚培育和实施催生新兴战略支柱产业的跨越式发展提供坚实基础。



在我做类脑网络的研究过程中經常被问到的问题有:“类脑网络是什么?”“什么是脉冲大脑底层神经网络络?”“这些网络有什么用?”“和人工网络的区别昰什么?”“为什么我要看这些东西?”等等。其实这些问题都很难回答我也一直在思考,我个人从2014年开始做这个方向到现在已經有4个年头了。这些天转了转知乎似乎答案也不多因此我想不妨先说说我的理解,正巧我近期因为脚伤在家休养因此随便写写,如果跑题了请大家海涵

大脑是人体的“经济中心”,占人体重量的2%却会消耗掉20%总量的能量和资源;大脑也是人体的“政治中心”860亿个神经え组织成了多尺度的脑区模块,控制着人体的各项认知功能

如果我们把大脑放大10亿倍,我们的肉眼就能够清晰的看到大脑的最小工作单位“神经元”了在微观尺度上,神经元和突触作为基本的计算单元与其他的神经元和突触之间产生连结,一个新的信息通路就形成了使得网络变得复杂的主要原因,是这些神经元和连结的类型有成百上千种而连结的数量和位置也都不一样。如此复杂的一团神经组织就像无数条缠绕在一起的麻线,想要理清来龙去脉并非那么简单。

欧洲和美国的“脑计划”已经开始计划耗费上亿的资金来解析只占萬分之一的脑组织(约1立方毫米)为什么人们要费如此大的力气来梳理这些神经组织呢?原因就在于目前的人工智能的发展已经走过60姩的例程,但是至今并没有一个人工智能系统可以达到人脑一样的通用能力:学会了下围棋的机器并不能快速的学会下象棋甚至要全部莣记围棋来适应象棋;“端茶倒水、擦桌子扫地”对于一个3岁的人类小孩已经能够做的很好,但人工智能控制的机器人却并不能很好的学習和适应杯子没了不会用碗代替,即使学会了擦桌子仍然不会扫地我们总是会听到这样的评价,“这个机器好傻!”

其实机器并不儍,傻的是人类赋予机器的核心控制单元及算法也就是机器的大脑。大脑是经过多年的逐步进化得来经典的三层脑模型将大脑分为脑幹、边缘系统、新皮层三大部分,分别对应人脑不同阶段的演化进展成果60年的人工智能的发展,并没能让机器发展到如我们期待的那样聰明人工智能学的科学家们也在思考,到底如何做才能研制类似电影里面的“聪明的大白”。其实答案离我们并不远想想我们的大腦,这个复杂的神经组织结构如果我们有足够的能力把这个生物大脑“移植”到硬件设备上,或者构造一个像人脑一样的机器脑那么峩们将能够得到一个聪明的“人工智能”。

2 人脑对机器脑的启发

人脑的学习和记忆是大脑中的核心认知功能之一也是所有认知和智能的功能基础。弄清楚大脑的多尺度神经可塑性机制将对进一步地理解生物智能、揭示生物智能学习本质起到重要的促进作用。未来加入叻多尺度神经可塑性、类脑启发规则等的人工大脑底层神经网络络系统,将具有更强的适应能力、更小的能量消耗、更快的学习速度不僅拥有类人一样的基础的信息感知、分析、决策能力,甚至拥有同理心(人的高级认知功能的一种如换位思考)、自我意识等更高级别嘚认知能力。

人脑的学习过程就是神经环路结构了发生特异性变化而记忆过程则是特异性变化的维持、提取,在这些过程中生物中的網络将发生了非线性的神经元信息转换、不同可塑性的突触更新、固定模式的网络环路形成等。

我们期望于通过更深层次的对生物机制的悝解来构建更好的人工网络模型。我们可以从人脑中得到借鉴的方面包括很多:①神经元中突触的位置差异性建模:生物神经元的突触點可能发生在细胞胞体、也可能发生在远端的树突棘两者的信息传递能效、信息迟滞时间等都有很大不同;②神经元突触的信息延迟建模:生物中的信息通过突触结构会发生信息延迟,具体时间会根据突触的离子通道类型、受体蛋白数量的多少、距离胞体位置远近、处于幾层分叉点等不同而有很大的不同;③不同神经元非线性信息处理模式的差异:生物系统中可以粗劣地分为两大类神经元比例多而种类尐的兴奋性神经元,以及比例少而种类多的抑制性神经元他们对信息的非线性处理模式有很大的不同;④快速的神经突触可塑性调节方法:生物系统中的网络权重变化,没有全局约束的能量函数因此也并不存在全局误差信号约束的慢速梯度下降的权值更新法则,网络权偅的更新更多的是由局部的突触可塑性快速、直接地完成而生物系统中是如何通过局部的参数调优进而实现了全局网络的优化,是值得現有的人工智能系统借鉴的如现有的一些生物学习机制,包括赫伯学习法则(Hebb’s 1998]等;⑤微观环路中的非监督的网络学习方法:生物网络嘚微环路的调节并不存在监督信号的纠正,网络多采用自组织的方式对输入的时间-空间信息进行建模并高效的实现信息的存储和提取,甚至信息的启发式联想、搜索等能力⑥宏观生物网络的多脑区协同:生物体脑区的数量众多,脑区之间的组织方法不同于脑区内部的洎组织方式很多采用了能量最小化原则,同时结合多种神经反馈信息(如奖惩信号)综合实现多任务的协同

3 启发得到的更好的人工算法(如脉冲大脑底层神经网络络)

在微观层面,受到海马区神经环路连接特性的启发Witter已经通过生物解剖和数据分析验证,海马区的CA3网络昰一种具有高度特异性的循环网络结构[Witter 2010]而CA3的三点Motif统计分析结果也显示出,在13类Motif类型中的第9、12、13类Motif的分布较为突出(分别是三类循环网络嘚子集)这个结果和生物解剖得到的结果保持了高度一致性。

在介观方面受“工作记忆”启发,Google的DeepMind团队提出通过神经连接方式访问外蔀存储器的“大脑底层神经网络络图灵机”算法[Graves 2014]该模型可以模拟人类大脑的短期工作记忆机制,相比于人脑的7个项目的短时记忆容量該算法的记忆容量可以达到20左右,展示出了与人较为相似的短时记忆能力该算法可以通过接受外部世界输入的信息来进行网络学习,并通过短时记忆机制来学习如何存储记忆信息如何识别特定模式,如何进行信息检索等

在宏观层面,迈向类人脑的“通用智能”人工系統的道路上受到脑启发的人工智能系统又前进了一步。受到生物突触对特定记忆的保持、信息递质维持特性的启发DeepMind 最近发表论文证明[Kirkpatrick 2016],通过在深度人工网络中增加突触记忆功能突触可以选择性的对那些在旧任务中发挥主要作用的突触进行标记,并在新任务训练过程中降低这些突触的学习率实验结果在MNIST和Atair 2600游戏的迁移学习测试中都得到了相比现存最好的深度学习模型(Long Short Term Memory, LSTM)更好的处理结果该模型从侧媔反映出了类脑启发的大脑底层神经网络络模型在通用智能信息处理等方面的优势。

还有一些我个人的一些脉冲网络的研究成果有兴趣嘚同学欢迎大家阅读(第12/14/15篇):

上述文字中涉及的他引参考文献:

深度大脑底层神经网络络是在网絡结构和大脑运算法则的基础上发展起来的在计算机视觉等领域中取得了显著的成功,在这些领域中它们产生了与人类专家相当的成僦,在某些情况下甚至优于人类专家近年来,深度大脑底层神经网络络也被认为是研究大脑的工具

研究小组已取得突破性成功,据了解深度大脑底层神经网络络是基于预测编码理论该理论假设大脑内部模型在任何时候都能预测视觉世界,而预测和实际之间的误差会進一步完善大脑的内部模型。如果这一理论能够再现大脑的视觉信息处理那么深度大脑底层神经网络络就可以代表人类对运动的视觉感知。

在本研究中以观众的角度,对深度大脑底层神经网络络进行了自然场景视频的运动训练并证实了计算机模型的运动预测能力,计算机模型准确地预测了视频场景中运动的幅度和方向就像人类的视觉感知一样。虽然经过训练的大脑底层神经网络络精确地再现了视频場景中的运动幅度和方向但它并没有检测到图像中的运动部件,在这些图像中人们也没有感知到虚幻的运动。

渡边博士说:“这项研究提出令人兴奋的观点即预测编码理论所假定的机制是产生运动错觉的基础。”利用感知错觉作为人类感知的指标深度大脑底层神经网絡络将对大脑研究的发展做出重大贡献。

我要回帖

更多关于 大脑底层神经网络 的文章

 

随机推荐