主页 > 杂七杂八 > 文章

MIT用神经网络重现生物视觉系统,发《自然:神经科学》后再中NeurIPS Oral

雷锋网 AI 科技评论按:机器学习顶会 NeurIPS 2019 快要在 12 月开幕了。在 NeurIPS 2019 收到的 6743 篇投稿中,有 1428 篇被接收为会议论文,其中有 36 篇为 Oral (口头报告)论文,比例仅为 2.5%,足见 Oral 论文的含金量。

在这 36 篇 Oral 论文中,来自 MIT McGovern大脑研究院、大脑与认知科学研究部 James DiCarlo 教授团队的论文《Brain-Like Object Recognition with High-Performing Shallow Recurrent ANNs》(用高表现的浅层循环结构人工神经网络实现类似大脑的物体识别)吸引了我们的注意。他们以人类大脑的工作方式为样本,重新设计人工神经网络的结构,以浅层神经网络+循环结构在物体识别任务中取得了优秀的、类似生物视觉系统的表现。

这项成果的意义远不在于物体识别和深度学习本身。实际上,James DiCarlo 教授团队本来做的就是大脑与认知科学研究,探索、设计工作方式相仿的人工神经网络可以帮助他们更好地理解生物大脑的原理。今年 4 月,James DiCarlo 教授团队就曾在顶级期刊《Nature Neuroscience》(自然:神经科学)上发表论文《Evidence that recurrent circuits are critical to the ventral stream's execution of core object recognition behavior》(证据表明循环结构对核心物体识别行为中处理腹侧神经流的过程有关键影响),展现了人工神经网络对神经科学研究的帮助效果。

本文对这两篇论文的内容一并进行介绍。

论文摘要

Brain-Like Object Recognition with High-Performing Shallow Recurrent ANNs- NeurIPS 2019

用高表现的浅层循环结构人工神经网络实现类似大脑的物体识别论文地址:https://papers.nips.cc/paper/9441-brain-like-object-recognition-with-high-performing-shallow-recurrent-anns.pdf论文摘要:深度卷积人工神经网络是模仿灵长目生物大脑腹侧神经流的视觉信号处理机制的一类首选模型。虽然这些网络模型最早是由大脑的解剖学结构启发得到的,但在过去的几年中,这些网络早已从简单的 8 层 AlexNet 发展成为非常深非常宽的网络,在图像识别任务中的表现也越来越好;不过,它们和生物大脑还有多类似就成了新的问题。具体来说,机器学习界提出的典型的深度模型通常都很难和人脑的解剖结构之间找到对应关系,因为它们有很多层,而且缺少循环信号通路之类的在生物结构中非常重要的连接。在这篇论文中,作者们通过实验展示了完全可以设计一个和生物结构更为相符的模型,而且让它在机器学习用的评价指标和神经科学用的指标方面都取得好成绩。作者们设计了一个浅层人工神经网络 CORnet-S,它的结构可以直接对应到生物大脑视觉系统的四个脑区,并且带有循环信号连接。作者们也设计了一个新的评价指标 Brain-Score,用来评价人工模型还原生物视觉系统的功能保真度,其中有大量的神经和行为测试。虽然 CORnet-S 比当代的绝大多数神经网络都要浅得多,但是 CORnet-S 的 Brain-Score 分数是所有模型中最高的,而且它在 ImageNet 中的表现也要比类似规模的模型更好。除此之外,作者们对 CORnet-S 的循环连接做了大量实验分析,发现循环连接对于生物视觉系统功能保真度和ImageNet表现都有重要作用。最后作者们还表示,CORnet-S 模型中“IT”模块的神经响应的时间变化和真正的猴子的 IT 脑区的神经响应变化非常类似。所有这些结果都表明,CORnet-S,这个紧凑的、带有循环结构的人工神经网络,是目前模仿灵长目生物大脑腹侧神经流的视觉信号处理机制的最佳模型。

相关阅读:

  1. 外媒:美国能源部长佩里辞职 否认受“通乌门”牵连
  2. 科学家在澳大利亚安装水下扬声器 或助受损珊瑚恢复活力
  3. 新加坡探索用沃尔巴克氏菌的蚊子对抗登革热
  4. 11月召回107.58万辆 高田波及过半
  5. 打造长三角人才一体化新高地
  6. 云南石林:古老村落焕新生
  7. 中国天楹股东户数下降1.26%,户均持股21.89万元
  8. 香港特区政府未来10年将提供超24万套公屋
  9. 通过这个窗口,在沪外国人7个工作日就能拿到工作和居留许可
  10. 沪指冲高回落个股高度抬高 市场新龙头呼之欲出

返回顶部