当人工智能超越人类智能:通往 AGI 通用人工智能之路丨集智百科
导语
本周四(9月21日)将由天普大学在读博士徐博文进行读书会的第一期分享,此次分享将对智能的定义以及通用人工智能的由来进行讨论,希望帮助参与者对“通用人工智能”建立初步的认识。详情见文末,欢迎预约直播。
1. AGI的历史
1. AGI的历史
1.1 观念萌生
1.2 研究伊始
1.3 陷入低谷
1.4 重获关注
2. 关于AGI这一概念
2. 关于AGI这一概念
2.1 什么是AGI
尽管对AGI并不存在公认的精确定义,但目前的通用人工智能研究可以被视为具有以下特点:
-
强调智能的通用性,而不仅仅是专门解决某一领域任务的能力。
-
从整体上理解和研究智能。
-
认为是时候建立一个在通用性上与人类智能相媲美或超越人类的人工智能了。
2.2 什么是通用
AGI的“通用”性质多年来获得了不同的解释:
-
可以解决所有问题,
-
可以解决所有人类可以解决的问题,
-
可以解决所有可计算的问题,
-
可以尝试解决所有可表示(representable )的问题。
2.3 什么是智能
根据对“智能”不同角度的理解,AGI也存在不同的研究视角,天普大学的王培教授认为,有多种角度可以理解智能,以下是他对理解智能的五种角度的分类,这也可以被视为不同AGI项目的研究目标:
-
结构角度:智能来源于大脑结构,应尽可能准确地模拟大脑结构。这一目标的难点在于可能存在在人工智能系统中既不可能也没有必要复制的生物学细节。
-
行为角度:智能体现在人类行为中,应完全模拟人类行为。这一目标的难点在于可能存在既不可能也没有必要在人工智能系统中复制的心理或社会因素。
-
能力角度:智能体现在解决问题的能力,应解决当前只有人类能解决的实际问题。这一目标的难点在于,目前没有一个普遍认可的、仅从问题求解能力出发的智能定义。将智能视为解决问题的能力,存在将智能的范围窄化的风险,也难以判定某种算法是否真正属于“智能”。此外,专门解决特定问题的程序往往缺乏适应新环境的普适性和灵活性。
-
功能角度:智能包含一系列认知功能,应实现这些功能。这一目标的难点在于目前的人工智能技术高度碎片化,它们很难协同工作。
-
原理角度:智能是一种理性或最优性,应遵循某些一般原则。这一目标的难点在于智能和认知有太多的方面无法用简单的理论来解释和复现。
3. 不同视角下的AGI
3. 不同视角下的AGI
3.1 认知科学哲学视角下的AGI
3.2 科技哲学视角下的AGI
3.3 社会智能视角下的AGI
4. AGI研究现状
4. AGI研究现状
为了实现AGI,当前研究人员们往往采用以下几种策略之一:
混合(Hybrid):混合是把各个专门问题的解决方案混合在一起组成一个系统,遇到不同问题就调用不同的程序。由于目前市面上几乎所有针对专门问题的功能模块都基于不同的理论基础,混合并不能带来模块间的协同工作,因此目前在该策略上并没有任何可靠的项目。
整合 (Integrated):整合是预先画一个整体架构图,然后对于每个部分采用不同技术填充,这在一定程度上避免了内部不一致的矛盾。代表项目有ACT-R、Sigma、Soar等。
统一 (Unified):统一是期待用同一个技术实现全部功能。例如大语言模型在回答不同领域的问题时,其操作都是在预测下一个token。代表项目有GPT-4、HTM、NARS、AIXI等。
以下是一些代表性的、有影响力的项目案例:
-
千脑智能(其前身是HTM)理论是一种满足脑的“生物约束”的理论模型,其基本思想是以皮质主为基本单元,时序学习、空间感知等过程分属皮质柱中的不同的层实现。
-
GPT-4使用巨量的语料数据进行训练,采用人类反馈强化学习 (RLHF) 等技术使模型与人类“对齐”,最终复刻出人的语言行为。
-
许多认知架构希望通过建立人的认知计算模型来实现通用人工智能,相关工作包括ACT-R、Sigma、Soar等,主要方式是将工作记忆、过程性记忆、感知功能、运动功能等人的各个认知功能组织为一个整体的系统。
-
非公理推理系统 (NARS) 旨在用统一的理论建模智能,通过逻辑和推理来刻画感知、运动、规划、决策、问题求解等复杂的智能现象。
5. 对于 AGI 的质疑
5. 对于 AGI 的质疑
尽管学界与业界近年来都更加关注AGI并投入了许多精力,但仍有很多对于AGI的质疑的声音存在,以下是一些常见的质疑。
-
AGI能实现吗?
由于近几年人工智能在部分任务上的表现逐渐接近乃至超越人类,这类质疑变得不再主流。
-
AGI会带来很大的风险?
这类质疑从很早起便存在,且近年来越发增加。包括近期马斯克等AI行业领袖联合发起的呼吁暂停比GPT-4更强大的AI联名信,计算机科学家 Stephen Wolfram 发表的《AI 会抢走所有工作并终结人类历史吗?》等。不过伴随着质疑的出现,也有 Max Tegmark 等学者在呼吁公众理性的同时加强对于安全与对齐问题的探索。
-
现在的人工智能的研究能否通向AGI?
6. 相关资源
6. 相关资源
6.1 相关文献
https://www.iospress.com/catalog/books/advances-in-artificial-general-intelligence-concepts-architectures-and-algorithms
Theoretical Foundations of Artificial General Intelligence是由活跃的AGI研究人员合著的文献。每一章都涉及AGI中的一个理论主题,其编写风格也对非专业人员较为友好。
https://link.springer.com/book/10.2991/978-94-91216-62-6
Suggested Education for Future AGI Researchers是天普大学王培教授为准备学习AGI领域知识、成为AGI领域研究者的人写的学习指南。
https://cis.temple.edu/~pwang/AGI-Curriculum.html
AGI通用人工智能读书会文献推荐,是岳玉涛、沈马成、徐博文三位老师为AGI通用人工智能读书会推荐的文献列表,集智斑图页面可以直接跳转、下载其中提及的文献。
https://pattern.swarma.org/article/249
6.2 相关会议、期刊、网站
annual AGI international conference series 始于2008年。会议网站上包含所有其接受的论文、演示文件和视频记录等其他材料。
https://agi-conf.org/
Journal of Artificial General Intelligence(JAGI) 是一本开放获取的同行评审期刊,创刊于 2009 年。
https://sciendo.com/journal/JAGI
Artificial General Intelligence SocietyAGI会议和期刊由Artificial General Intelligence Society(AGIS)管理。每个对AGI感兴趣的人都可以成为会员。
https://docs.qq.com/scenario/link.html?url=http%3A%2F%2Fwww.agi-society.org%2F&pid=300000000$MqLvoBDYmFPs&cid=144115225535628076
主要参考文献
百科地址:https://wiki.swarma.org/index.php/通用人工智能
AGI读书会启动
为了深入探讨 AGI 相关话题,集智俱乐部联合集萃深度感知技术研究所所长岳玉涛、麻省理工学院博士沈马成、天普大学博士生徐博文,共同发起 AGI 读书会,涵盖主题包括:智能的定义与度量、智能的原理、大语言模型与信息世界的智能、感知与具身智能、多视角下的人工智能、对齐技术与AGI安全性、AGI时代的未来社会。读书会从2023年9月21日开始,每周四晚上 19:00-21:00,预计持续7-10周。欢迎感兴趣的朋友报名参与!
详情请见:
推荐阅读
点击“阅读原文”,报名读书会