关键词:认知神经科学,决策,好奇心,新奇性搜索,人工智能



论文题目:Curiosity: primate neural circuits for novelty and information seeking
论文期刊:Nature Reviews Neuroscience
论文地址:https://www.nature.com/articles/s41583-023-00784-9


多年来,神经科学家研究了支持基于价值的决策的行为、计算和神经生物学机制,揭示了人类和动物如何做出选择以获得奖励。然而,许多决策都受到物质奖励或二阶强化物(例如金钱)价值以外的因素的影响。例如,动物(包括人类)经常探索没有内在价值的新物体,仅仅是因为它们很新奇,并且它们表现出获取信息以减少对未来的不确定性的渴望,即使这些信息不能带来奖励或帮助它们完成即将到来的任务。


这篇发表于 Nature Reviews Neuroscience 的最新综述,讨论了灵长类动物大脑中负责检测、预测和评估新奇性和不确定性的神经回路如何调节行为,并产生好奇心的各个行为成分。该文还简要讨论了在出生后发育过程中与好奇心相关的行为是如何产生的,并指出好奇心在几代人中持续存在的一些重要原因。


图1 好奇心相关行为的多种相互作用的来源


好奇心通常被描述为一种动机和行为的集合,通过减少不确定性和最大化新奇体验来形成关于世界和自己状态的信念。好奇心在决策、内部状态、注意力和行动方面有广泛影响。灵长类动物和其他动物通常被新奇物体所吸引,这些物体可能没有内在价值,但它们激发了探索和信息获取的欲望。动物不仅被动地检测和反应新奇刺激,还会主动预测、寻找或避免它们。好奇心的另一个组成部分是了解未来可能遇到的奖励或惩罚事件的欲望,即使这些信息不能立即用于获取更多奖励或优化任务表现。


好奇心相关行为可能揭示隐藏的不确定性来源,有助于形成内部模型或信念,从而在一生中提高生存和成功的机会。这对于在复杂环境中,如社交场合或动态觅食场景中,需要考虑多种因素以求生存的缓慢繁殖生物尤其重要。在人工智能领域,新奇性搜索可以帮助智能体学习环境并克服稀疏奖励问题(即环境中奖励不足)


图2:灵长类动物大脑中的物体新奇敏感性。


好奇心相关行为,如探索和信息寻求,通常在个体的早期发展阶段就开始出现。随着个体的成长,他们的探索行为变得更加目标导向,随机性减少。伴随着年龄的增长,个体学习抽象表示和统计关系的能力增强,他们的探索和好奇心相关行为变得更加复杂和丰富。随着监督的减少和社会竞争的增加,个体探索和学习的欲望可能会发生变化。风险偏好和信息偏好也可能随着年龄的增长而变化,反映了对不确定性的厌恶。


灵长类动物拥有独特的特征,可能有助于他们对好奇心的非凡能力。例如,灵长类动物的视觉系统在支持快速抽象推理方面非常擅长,而且眼睛作为与环境互动的关键初始手段,能够快速移动,对感官输入有强烈的控制能力。好奇心可能源于多个机制,这些机制在不同的时间尺度上运作。例如,一些回路促进无导向的探索或惊喜驱动的行为,而其他回路则从结果中学习简单的关联和高阶统计信息。


图3:哺乳动物大脑新奇性搜索相关的神经回路


综述以该领域的问题和展望结束,关于好奇心,主要有以下研究方向:
  1. 新奇性搜索与不确定性估计的相互作用:
  2. 好奇心的神经控制中心:
  3. 新奇性的不同形式:
  4. 遗传与好奇心:
  5. 好奇心的多维动机:
  6. 好奇心的发育和环境适应:
  7. 进化层面的研究:




编译|郭瑞东

计算神经科学读书会



详情请见:计算神经科学读书会启动:从复杂神经动力学到类脑人工智能



推荐阅读
1. 好奇心从何而来?知识网络数据揭示好奇心的多种产生机制
2. 为何有人沉迷赌博?从非理性行为解读决策中的奖励-好奇冲突 | Nat.Comput.Sci.速递
3. 神经复杂系统前沿:关于认知大脑的两种观念
4. 张江:第三代人工智能技术基础——从可微分编程到因果推理 | 集智学园全新课程
5加入集智学园VIP,一次性获取集智平台所有内容资源
6. 加入集智,一起复杂!


点击“阅读原文”,报名读书会