人工智能的繁荣也有其暗面。在社会经济方面，大量工作岗位面临被取代的危机，导致社会不平等加剧；在地球环境方面，人工智能的指数发展也会带来能耗的指数增长，推动地球生态系统突破临界点，走向最终的“热寂”。
在集智俱乐部「后ChatGPT」读书会中，张江老师认为，在热力学第二定律和超线性规模法则的共同作用下，人工智能技术革命就像是一台行星级别的巨大空调，一边在行星内部创造高度秩序，一边则以史无前例的速度产生大量的熵。人类的集体觉醒——即产生行星级别的集体智能，可能才是最终的解决之道。而唤醒行星级别集体智能的第一步，是实现一个全球级别的集体预测系统和人类规模的自我实现预言——“拯救2050”计划。
本文是此次读书会的完整整理。扫码观看读书会回放：
https://pattern.swarma.org/study_group_issue/459?from=wechat
关键词：人工智能，技术奇点，规模法则，气候临界点，行星智能
目录
一、人工智能对人类的影响
二、奇点的时空动力学
技术奇点与智能爆炸、城市规模法则、地球气候临界点
三、行星智能与人类文明
内稳态觉醒、人工智能发展的三个阶段、“拯救2050”计划
1. 人工智能对经济、就业、不平等性等社会因素的影响
最近生成式人工智能的现象级繁荣，已经向我们人类抛出了一个迫在眉睫的问题：我们是否正处于进入任务自动化的关键时刻。任务自动化将大大节省劳动力成本，提高劳动生产率，并加快经济增长。
发表于2023年3月的一篇经济分析报告[1]，概述了人工智能对宏观经济的潜在影响，并认为如果人工智能实现了其承诺的能力，它有可能在未来几十年显著扰乱劳动力市场，包括代替很多岗位和任务，也包括产生新的岗位，最终刺激全球生产率增长。文章通过统计和预测等技术得出结论，2/3的工作岗位将会受到影响，1/4的工作任务可以被AI取代，而且行政、管理岗位将更容易受到冲击，全球18%的工作将会实现自动化（图1）。
图1. 这几幅图都展示了报告中AI对职业产生的影响。
无独有偶，牛津大学的两位学者更细致地分析了700多种工作岗位，评估这些岗位计算机化的敏感程度[2]。作者先使用了一些分类计算将这些岗位分成了9类，并估计了这700多个职业的计算机化概率（分类结果如图2左所示），从分析结果可以发现，有些职业技能对于计算机的引入其实并不敏感，而有些职业则会受到显著的影响。
图2. 左：9类职业技能和计算机化概率。右：被计算机化的低风险，中风险和高风险三种类型的职业所处的行业，以及他们对应的当前雇员数量
基于这些估计，作者检查了未来计算机化对于劳动力市场产出的影响，主要目标是分析面临风险的工作数量以及其计算机化概率、工资和受教育程度之间的关系。图2（右）是根据不同的计算机化概率可以将不同的职业划分为低风险、中风险和高风险三个类别。而根据文章的估计，大约47%的美国就业处于危险之中，首当其冲的是服务类、销售类、行政类等岗位。最后文章进一步提供证据表明，工资和受教育程度与职业的计算机化概率呈强烈的负相关关系（如图3）。
图3. 薪资和受教育水平和计算机化的概率呈现出显著的负相关
在认识到人工智能对我们的经济和就业等方面的社会影响之后，2018年 Science Advances 上发表的一篇文章，从工作技能的角度一定程度上揭露了社会的不平等现象[3]。
文章首先是根据岗位，工作者，和技能之间的关系，构造出技能网络（构造过程如图4A所示）。然后使用无监督的聚类技术，发现了工作技能表现出惊人的两极分化，技能网络中出现了两个明显的社团结构：一类是高工资的、基于特定社会认知技能，另一类是低工资的、基于体力的技能（图4C所示）。
图4. 构造技能全景。（a）职业是通过该岗位的工人所拥有的技能定义的，图中的二分网络是一个隐含的三分网络映射的结果，其中工人是作为职业和技能的桥梁，进一步定义技能网络，技能之间的关系是由共现性决定的，即共同出现在了某种职业中。（b）根据文章中的定义给出每对技能的相似性分布。（c）通过最小化相似性可视化展示了技能网络中两个区分明显的社团，节点大小反映了该技能与所有其他技能之间共享的总技能相似性
而有了这样的技能网络之后，可以进一步分析得出结论，社会认知技能更倾向于获得更高的年收入（图5B），并且越大的城市会越依赖这种社会认知技能，从而进一步带来更高的平均家庭收入（图5C）。另外还有受教育程度和不同技能之间的关系（图5D），分析结果表明，社会认知技能所需的教育程度是越高的。这些分析说明，作者团队从这样的技能网络两极分化的现象中，揭露了薪酬、城市劳动力福利和教育程度的两极分化。
图5. (A) 将技能分成了认知技能（Cognitive skill）和物理技能（Physical skill）两类，并进行了可视化；（B）认知技能和年收入的正相关关系；（C）城市平均家庭收入和认知技能的正相关关系；（D）将技能网络用 onet(j,s) 指标（文中提出的衡量工作j和技能s之间关系的指标，1代表技能s对工作j很重要，0代表不重要）和获得对应职业的平均受教育程度的相关性。
另外，文章还进一步构建了这种技能在不同工作之间转换的动力学。发现和随机模型相比，不同技能的人更倾向于在自己的所处的技能附近找工作，即技能转化过程的变化幅度小于随机模型。并且与随机选择相比，开始从事认知和身体技能同等使用的职业的工人，在过渡到新职业时，他们的认知技能往往会有更大的变化。综上所述，高度依赖某一职业技能的工人倾向于同一技能社区内的其他职业。这进一步导致了不平等的现象。结合人工智能对于工作的影响，这背后也暗含了，人工智能的发展很可能能会加剧这种社会经济中的不平等现象。
图6. 2014年的工人职业揭露了平均认知变化。横坐标可以表示起始职业的认知分布，Q1认知能力最高的一些职业。每个点代表了700多个职业的平均。纵坐标是工作发生转化后的认知水平发生的变化。周围的网络展示了对应位置职业的变化导致的薪资变化
那人类应该何去何从？在2018年发表于PNAS上的一篇工作，在对科研领域、课程领域和工作岗位领域提取技能关键词，并通过数据分析方法指出，管理技能、沟通技能、解决问题的能力等软实力（soft skill），比硬实力更加重要。而这些软技能目前看来也是人工智能还未占领的高地[4]。
图7. 不同技能在技能空间中所处的位置，越靠近中间代表越重要
在这一部分对于人工智能对社会经济、工作岗位等方面的影响的讨论中，我们可以得出以下结论：
1.人工智能的浪潮不可回避，我们要做好准备，迎接挑战。
2.人工智能会刺激经济增长，提高生产力，但同时会代替掉很多技术含量较低的岗位，同时也可能会带来更加极端的不平等现象。
3.相较而言，简单重复的脑力劳动最容易被取代。
4.人更应该关注软技能，将人工智能技术作为辅助，更好地发挥人的价值。
1.The Potentially Large Effects of Artificial Intelligence on Economic Growth
2.Frey C B, Osborne M A. The future of employment: How susceptible are jobs to computerisation?[J]. Technological forecasting and social change, 2017, 114: 254-280.
3.Unpacking the polarization of workplace skills
4.Skill discrepancies between research, education, and jobs reveal the critical need to supply soft skills for the data economy
2. 人工智能对能源消耗、环境和可持续发展的影响
人工智能除了对社会的影响之外，还有另一个比较沉重的话题，就是对环境的影响，而这也是经常被资本市场所忽略的一点。
关于人工智能对于环境的影响到底是正向的还是负向的，目前众说纷纭。2020年发表于 Nature Communications 的一篇工作就讨论了人工智能对于可持续发展起到的作用。这篇文章指出，对于可持续发展这一目标上，人工智能有利有弊（对134个可持续发展的目标有利，而对59个目标形成抑制），但整体上还是起到一个正面的作用[5]。
但也有后续的报告指出，人工智能在耗电方面近年的增长势如破竹，2021年相比2020年耗电增长了32%, 而相比2015年则是增长了265%，占总耗电量的14%，已经逐渐逼近一座城市一年的耗电量（城市的耗电量是21%，如图8所示）。[6]
文章[7]也指出了人工智能对于全球碳排放的影响，虽然人工智能可以帮助人类设计智能电网等很多看上去有利于提高能源利用效率的事情，但训练大模型本身的碳排放也引起了人们的关注。将这种能源消耗转换成近似的碳排放和电力成本，作者估计训练一个大型语言模型的碳足迹相当于大约30万公斤的二氧化碳排放。这相当于纽约和北京之间的125架次航班的往返。
文章[8]则对比了不同的模型造成的碳排放，openAI[9]也给出了训练不同模型所需的算力（图9左）和模型所需算力随着时间的变化（图9右），基本都说明了模型的算力，对应的能耗和碳排放都是呈现出指数增长的趋势。
图9. 左图是不同模型的算力，右图是更大时间尺度下不同AI模型的算力。
值得注意的是，在图9右图中，在2010年以前，模型算力需求的增长基本上是符合摩尔定律的，即每18个月增长一倍，但在2010年之后就发生了显著的变化，无论是模型的更替还是对算力的需求速度都在变得更快，大约每3-4个月就会翻一倍。
然而，这种高速迭代的背后却并没有带来同等的回报[10]。回顾近年的发展，在模型增大、参数增多的同时，预测准确度等评价指标的增长却显著放缓（图10所示）。
所以，关于人工智能在能耗方面，无论人工智能给我们带来了多大的便利和经济效益，它都是以大量的能耗为代价的。那么，是否通过技术的进步，人类能够逐渐降低能量消耗，甚至于逼近0呢？关于这方面，其实可以从最基本的物理定律中找到答案，兰道尔原理（Landauer Principle）给出了改变热力学熵的最低能量是 kTln2（k是玻尔兹曼常数，T是环境的绝对温度），这就使得无论多么高效的机器都会消耗能量，算力越大消耗越大。所以从系统整体上来看，人工智能的指数发展势必会带来能量消耗的指数增长。
更糟糕的是，以上的讨论都还仅仅是直接能耗，而正如食物链金字塔中的能量结构，要供给顶端的动物充足的能量，是要消耗掉指数倍的底端物种的生物量的。而在能量金字塔中，人恰恰是位于最顶端的物种，当今社会我们的每一个行动，每比特的信息产生都是建立在消耗掉大量能量的基础上的，所以这种背后间接的能量消耗只会更大[11]。
生态学家 H.T. Odum 早在上个世纪80年代以来就发展出了定量化计算间接能量消耗的定量方法。他指出，要产生一比特能够载入人类文明史册的信息，是要以消耗785亿亿（785×1016）焦耳每年的能量为代价的，这个能量流是太阳辐射地球能量流的大概35倍。可能很多人觉得这种间接能耗的计算有些过于杞人忧天了。但是，我们一定要知道，我们头脑中一个比特有用的知识生产，是以巨大的无用能耗为代价的。比如，你做10次实验，可能也就成功1次，那么这1次实验获得的信息，就是要以9倍的能耗作为代价。况且，更高“营养级”的人类活动对于低营养级的物种是有着牵引和控制的作用的。从某种意义上，所有的低层生产活动都是在为人工智能“服务”。所以，为了一丁点有用知识的生成，实际上消耗的能量是要沿着“营养级”指数放大的。
难怪，近期有“神经网络之父”之称的 Geoffrey Hinton 也从 Google 辞职，并警示快速发展 AI 的安全性问题和担忧，看来是非常有道理的，而且，Hinton 还应该把能耗的维度考虑进去。
图11. （左图）能量金字塔，人类生活的方方面面依赖各种形式的能量；（右图）对左图的能量金字塔的定量展示
5.Vinuesa, R., Azizpour, H., Leite, I. et al. The role of artificial intelligence in achieving the Sustainable Development Goals. Nat Commun 11, 233 (2020). https://doi.org/10.1038/s41467-019-14108-y
6.ELECTRICITY CONSUMPTION BY DATA CENTRES INCREASED BY 32% IN 2021 https://www.socialjustice.ie/article/electricity-consumption-data-centres-increased-32-2021
7.Dhar, P. The carbon impact of artificial intelligence. Nat Mach Intell 2, 423–425 (2020). https://doi.org/10.1038/s42256-020-0219-9
8.Energy and Policy Considerations for Deep Learning in NLP
9.AI and compute. https://openai.com/research/ai-and-compute
10.Schwartz R, Dodge J, Smith N A, et al. Green ai[J]. Communications of the ACM, 2020, 63(12): 54-63.
11.Odum: Self-Organization,Transformity,and Information, Science, 1988
所以，我们得出结论，人工智能伴随着巨大的直接和间接能耗都在以指数级速度加速发展，那么它的终极将是什么呢？没错，就是那个著名的“奇点”。
奇点是指数学上无定义的点。而在黑洞中也存在着一个物理空间中的引力奇点，在这一点附近会发生引力的潮汐效应（Tidal effect），即由于不同位置受到的引力不同，跌落奇点的物体会被撕碎。引力奇点其实可以作为一个绝佳的隐喻，来看待我们即将面临的技术奇点（Technology Singularity）。
技术奇点一词最早可以追溯到冯·诺依曼的描述：技术的加速进步和人类生活方式的变化，使人类历史上出现了一些基本的奇点，超过了这个奇点，我们所熟悉的人类相关的事务就无法继续下去了[12]。
古德尔（I.J.Good）曾给出超级智能体的描述，这种超级智能体也能创造它自己，那么人类一旦创造出了这样的超级智能体，它将成为人类的最后一项发明，超级人工智能会递归地不断创造自身下去。整个世界也会进入一个智能爆炸的阶段。库兹韦尔在《奇点临近》一书中全面阐述了技术奇点，使得这个词被大众所知。
无论是冯·诺依曼的描述，还是古德尔的超级智能，其实都在阐述同一件事情，就是人类会面临一个技术奇点，到了这一点之后，技术发展将会爆炸，而这与人类无关。
那么，这样的技术奇点真的会来临吗？答案或许是肯定的，我们其实可以从过去的数据中发现一些佐证。
首先就是我们所熟知的摩尔定律，每18个月芯片的性能将会翻一倍，这说明我们的技术呈现出指数增长的趋势。而且量子计算机的发明，很有可能会让这个趋势成为“双指数”增长，即在有限的时间就能到达无穷大。
另一个重要的证据就是加速回报定律，可以认为这是摩尔定律的一个更大范围的推广，正如库兹韦尔在他的书中所描述的那样：“19世纪那一百年期间所发生的科技变革，比之前900年的变化还大。接下来，在20世纪的头二十年期间，我们目睹的科技进步比整个19世纪还多。”
图12. 加速回报定律。我们正在经历越来越快的技术革命
还有一些证据，比如生命的每次重要的进化可以看做是重要信息存储形式发生了突变的过程[13]，从开始的RNA、DNA，到细胞核，到神经网络，再到现在的数字化信息存储，不仅存储的信息可以越来越多，而且信息也越来越浓缩。这一些都在指向着，我们正在经历一场前所未有的革命，我们正在迈向一个无法避免的技术奇点。
而对于奇点具体的时间估计，在2016年就有一份研究，通过问卷访问550个人工智能学术界顶尖的学者，让他们给出高水平人工智能（high level machine intelligence-HLMI）到来的时间[14]，经过平均测算后，文章得出的结论是，在2045年左右，这样的智能有50%的概率会出现。到2075年，概率则达到90%。
图13. 人工智能专家对高水平智能AI到来时间的估计。不同的线代表专家们认为的可能性。
12.Ulam, S., Tribute to John von Neumann, Bulletin of the American Mathematical Society, vol 64, nr 3, part 2, May, 1958, p1-49
13.Gillings MR, Hilbert M, Kemp DJ. Information in the Biosphere: Biological and Digital Worlds. Trends Ecol Evol. 2016 Mar;31(3):180-189. doi: 10.1016/j.tree.2015.12.013. Epub 2016 Jan 8. PMID: 26777788.
14.Muller, V. C., Bostrom, N. (2016). Future progress in artificial intel- ligence: A survey of expert opinion. In Fundamental issues of artificial intelligence, 555–572. Springer, Cham.
2. 城市规模法则及发展动力学
以上的奇点主要是讨论时间维度，而另外一个重要的维度就是空间。有研究指出，到2050年，一半以上的人口将居住在城市，80%以上的财富由城市创造，几乎所有科技创新都诞生于城市。Geoffery West 和 Bettencourt 早在2007年一篇PNAS文章中，基于规模法则（scaling law）建模了城市的发展动力学。
规模法则是 West 提出的一套普适的描述复杂系统的方法，可以刻画复杂系统的生长特性，揭示系统的演化规律。规模法则一开始应用在生物系统，扩展了生物跨物种的克莱伯定律，并为生物的生长建立了一套普适的动力学模型，对这一领域产生了非常深远的影响。而 West 和 Bettencourt 合作，也用类似的方法为城市的发展建立了一套动力学，指出由于规模法则的幂指数不同，城市的发展命运和生物完全不一样[15]。
在城市的人均 GDP、专利数等创新类指标的规模法则中，幂指数是大于1的（大约是1.15），这意味着城市的创新会随着城市的增大而不断被加速，并且“加速度”也在越来越大。而与此同时，城市的阴暗面也相伴而生，如犯罪率、碳排放、垃圾生产等，并且也是以相同的规律在增加。换句话说，城市的新陈代谢会随着城市规模的增大而加快，如果将人看做是城市的最小单元，那么每一个人能感知到的就是，越大的城市生活节奏就越快。West 在他们的研究中也统计出了一个有趣的现象：越大的城市，人们走路的速度就会越快。
这种越来越快的增长，可以推导出整座城市的演化动力学
其中等式右边的第一项代表着城市的增长项，第二项代表着成本项。通过对上述方程求解，我们可以得到一个超指数增长的解析方程，即在有限的时间 tc 时，城市的规模就达到了无穷大。如图15虚线所示的城市发展轨迹。现实中到目前为止都还没有出现过“无穷大”的城市，当然这也是不可能出现的，因为城市会在人口出现无穷之前就濒临崩溃。
所以现实情况是，城市的发展趋势会存在一种周期性，当到达一定的规模之后，会因为城市当前容纳能力不足而出现崩溃，而这其实又能激发人类去做一些科技创新摆脱困境，最终使得城市能够继续超指数增长。所以城市的发展轨迹就会如图15的样子，震荡向上发展。这种生长趋势在实证数据中也能观察到。
那么，城市能一直这么发展下去吗？其实，答案是否定的。每次的科技创新对于整个城市生长而言，就好比将“末日”的时间推迟。而在 West 他们的推导中，这个推迟的间隔Δt是在逐渐变短的
）。
West 在其《规模》一书中描绘了一个疯狂而魔幻的未来：人们不仅是在跑步机上奔跑，而且还会不停地跳到更快速的跑步机上奔跑。并且，我们终将面临“末日”，而这就是城市发展不可回避的奇点。届时，城市将拥有超大的人口规模，超高的技术，极高的生产力，但同时，也会产生极端的负面影响，可能是环境的恶化，极端的犯罪分子等[16]。
15. Luís M. A. Bettencourt et al., Growth, innovation, scaling, and the pace of life in cities, PNAS, 2007
3. 地球气候临界点
上述对于奇点动力学的描述偏向于理论分析，但我们可以在近年社会和自然环境的变化中捕捉到很多佐证。开篇提到人工智能势如破竹的飞速发展，给人类社会带来剧烈的冲击。而在这一部分，我们来看一看自然环境正在发生什么样的变化。
定性上，我们普通人也能非常显著地感知到极端天气的增多，如南北极的异常高温，各地多次出现的异常降水，以及今年春天北方的沙尘暴。而定量上，地球科学家们也给出了诸多证据，指出世界上不仅很多局部生态系统正在走向临界点——而这将会带来生态不可逆转的变化，我们可能还在面临行星级别的状态变化，即全球性生态系统可能即将发生某种相变[17]。
2019年 Nature 的一篇评论文章，也指出全球的15个气候临界点已经被激活了9个，这也就是说，超过60%的临界点已经被触发，进入不可逆转的状态（图16左图）[18]。
北京师范大学系统科学学院樊京芳老师也带领团队，发现了一个新的临界点位于青藏高原，并且这一临界点也很快将被激活（图16右图）。更关键的是，这些临界点之间往往会存在着遥相关，牵一发而动全身。这意味着未来临界点的激活速度也会加快[19]。
17.Barnosky, A., Hadly, E., Bascompte, J. et al. Approaching a state shift in Earth’s biosphere. Nature 486, 52–58 (2012). https://doi.org/10.1038/nature11018
18.Climate tipping points — too risky to bet against. https://www.nature.com/articles/d41586-019-03595-0
19.Liu, T., Chen, D., Yang, L. et al. Teleconnections among tipping elements in the Earth system. Nat. Clim. Chang. 13, 67–74 (2023). https://doi.org/10.1038/s41558-022-01558-4
4. 广义的热力学第二定律
而另一方面，广义的热力学第二定律更是在物理机制层面告诉我们，这一现象的发生绝不是偶然。我们对热力学第二定律都耳熟能详：一个孤立系统总是会往熵增的方向演化。但现实生活中往往不存在绝对孤立的系统，所以我们还是能看到秩序的产生。后来物理学家们定义了一个更广义的熵增原理，把热力学第二定律扩展到了非平衡的开放系统。这一原理把体系的熵增 dS 分成熵产生（entropy production） diS 和熵流（entropy flux） deS 两部分，即: dS = diS +deS. 其中熵产生就是由于体系内部不可逆过程引起的熵增部分。广义的热力学第二定律告诉我们，无论对于什么样的非平衡不可逆的过程，熵产生 diS 始终大于0，即 diS >0。我们可以将这部分看做是系统内部产生的“垃圾”。
而熵流 deS 就是由于体系和环境的物质和能量交换引起的熵减部分，可以看做系统在往外排放“垃圾”。可以想象当排放大于产生时，系统就会趋于有序，反之则趋于无序。换句话说，当我们看到一个系统逐渐变得有序时，其代价是释放出更多的熵流，也就是说把垃圾以更快的速度扫地出门。
在了解了熵产生原理之后，我们再把目光放到地球上，可以发现我们人类正在以越来越快的速度趋于整体上更高的“秩序”，更高的科技水平，更高水平的社会结构等——这背后其实意味着，我们在源源不断地向外排放熵流，而且这个速度必然是越来越快——因为更高的秩序总是以更多的垃圾排出为代价的。
而麻烦的是，如果我们将地球作为一个系统整体，那么它往外界排放“垃圾”的方式就只有热辐射，而我们知道，我们的地球每天向宇宙辐射的总热量其实是近乎恒定的，约为1.06×1017千焦，这是由地球的生态环境和自我调节能力决定的。这也就意味着，我们人类正在向地球排放越来越多的“垃圾”，速度还越来越快，近乎指数增长，但是地球朝外界排放“垃圾”的速度却几乎没变。这也就是说，人类高速发展产生的代价，很可能最终会将地球导向一个“热寂”的结局，而这个“热寂”的到来速度也是越来越快的。而近年来我们看到的极端天气、新冠疫情等自然灾害，很可能就是“热寂”的征兆。而地球平均气温的升高，也许也是地球在自我调节的一种手段——地球温度提升，可以提高向外界辐射热量的速度。
所以，奇点有可能就意味着热寂。那么，面对悲观的未来，我们人类该何去何从呢？
那么，人类真的会任由自己走向奇点和热寂吗？答案显然是不！作为这个星球的主宰物种，人类必须寻求解决方案。
首先，我们来先介绍一篇去年发表在英国皇家科学学会会刊上的文章[20]，作者是卡耐基科学学院和加州技术学院的两名专门研究地球与行星系统的学者，他们沿着 West 城市的建模工作进一步描绘了人类可能的未来。文章指出，可以将 West 的工作进一步外推，将整个文明看做是一个全球化的城市，那么这个系统和城市很可能属于相同的普适类。也就是说，一个技术连接的文明的生产力、增长、资源消耗，将同样遵循幂律指数 β>1 的规模法则。那么正如 West 对于城市奇点的预言一样，整个人类的历史可能都是呈现出周期的变化，当我们达到瓶颈之后，就会面临人口的锐减、环境的恶化等系统性崩溃（图18中橙色区域所示）。面对这种困境，一个文明可能有一个时间窗口 Δtwindow，供他们选择进入何种未来。这个 Δtwindow 是指从他们发展出理解自己的能力到渐近耗竭之间的时间。
20.Asymptotic burnout and homeostatic awakening: a possible solution to the Fermi paradox. https://royalsocietypublishing.org/doi/10.1098/rsif.2022.0029
那么为了应对这一危机，人类存在着两种解决途径，张江老师将它们形象地称为“逃离派”和“内卷派”。第一种解决方案就是逃离地球，继续朝更远的星球去扩展（图18紫色区域所示）。只要有了新的可生存空间，人类也就没必要把视角完全死死盯住地球不放。马斯克的逃离火星计划显然就属于这一类。
图18. 在技术-人口规模状态空间下可能的三种文明，文明轨迹被“耗尽水平线”（burnout horizon）所限制，长寿的文明有意识地重新定位它们的轨迹，远离人口规模的增长，探索技术状态的其他维度。当然也存在某种允许过渡到III型区域的可能性，但因为费米悖论的存在，这种可能性应该非常之小。
但是，逃离派所面对的问题则是费米悖论（Fermi Paradox）所带来的质疑。物理学家费米很早就指出，如果按照目前已知的银河系中恒星系的数量，以及在其中演化出文明的概率，可以估算出我们能够遭遇外星文明的可能性大小是一个非常可观的量。然而，到目前为止，我们却没有观测到任何一个外星文明。为什么呢？
根据 Kardashev 的三级文明理论。只有当人类文明可以使用恒星的能量来做星际旅行，也就是达到III级文明，才有可能让其它恒星系的文明人类观测到。这就意味着，我们可以从未观测到外星文明这一结果，反推出III级文明的突破可能存在着不可逾越的障碍。这就意味着虽然逃离派可以暂时解决当前地球上的危机，但是对于文明的延续来说，未来很可能是行不通的。也许人类在成功移民火星之前就已经达到奇点热寂而灭绝了。
I型文明：有能力使用所在行星的全部能源。人类还没有达到I型文明，按照卡尔萨根的算法，人类可以算作0.7型文明。
III型文明把前面两张都甩在了后面，能够动用相当于整个银河系那么多的能源。并且有能力进行星际移民
费米悖论：对地外文明存在性的过高估计和缺少相关证据之间的矛盾
于是，这就引出这篇工作指出的另一个更可能的未来——内稳态觉醒（Homeostatic Reorientation），张江老师把它形象地戏称为“内卷派”，当然，这里的内卷并不是贬义词，而是指一种内部自发觉醒的状态。和黑暗森林法则的“隐藏”不同，内稳态觉醒是指文明自发停止扩张式发展，进入了可持续发展的内稳态（图18绿色区域）。这种状态下，文明从人口和技术的增长转向其他维度的探索，使得技术水平处于一个相对稳定的状态，所以也不可能被我们探测到。
那这种自稳态到底是个什么社会状态呢？其实这恰好与我们古老的东方哲学老庄之道不谋而合，老子《道德经》的核心就是围绕着“道法自然”，告诉我们要与自然和谐相处，描绘了“小国寡民”的社会图景。然而，老子描述的理想社会毕竟适合于古代。现代人最接近内稳态觉醒的社会状态就是元宇宙了，如果未来所有人都生存在元宇宙的虚拟世界中，那么现实世界的熵产生速度就可以压到足够低了。
2. 行星智能
不难看到，无论是小国寡民还是元宇宙，问题的关键在于人类是否能够抓住这个重要的时间窗口Δtwindow，在崩溃之前实现觉醒，并且同时具备自救的能力。要注意，这里的觉醒事件并不是指每个个体的人全部都觉醒，而是站在一个全球的尺度看，把“全部人类+人工智能”的整体看作一个大脑——全球脑（Global brain），这个大脑的觉醒才是真正的觉醒，才能产生更高层次的智能，利用集体智慧来求得解决人类生存问题的方案。
关于把整个地球看作一个生物体的猜想，很早就有人提出，例如我国古代先贤将整个外部的环境也视作一个有机体，进入现代以来，林恩·马古利斯提出了著名的“盖娅行星”假说。最近的一篇文献[21]，作者包括著名的圣塔菲研究所教授、亚利桑那州立大学的 Sarah Walker，则将整个地球不仅看作是有生命的，还探讨了将其视为一个智能系统的可能性，这就是所谓的行星尺度智能的产生过程，简称行星智能。
21. intelligence as a planetary scale process
https://www.cambridge.org/core/journals/international-journal-of-astrobiology/article/intelligence-as-a-planetary-scale-process/5077C784D7FAC55F96072F7A7772C5E5
文章把行星智能的产生分成了由非生物、生物圈、技术圈这三个系统构成的五个阶段，分别是非生物圈的出现、不成熟的生物圈、成熟生物圈（mature biosphere）、不成熟的技术圈和成熟的技术圈（mature technosphere）。与此同时，每一个子系统从出现到成熟又包括了五个核心的要素，分别是涌现、网络动力学、语义信息网络、复杂自适应系统的出现、自创生（autopioesis）。
所谓的自创生是指一个复杂系统中的构成元素全部是由该系统的其它元素自己生成的，并且存在着一个自生成的边界，该理论认为，自创生是一个复杂系统具备生命特征的基本条件。在成熟生物圈阶段和成熟技术圈阶段，自创生这一属性占比都是很高的，这意味着它们都将演化形成一个“活的”有机体。而技术圈又是出现在生物圈之后的，即随着技术的发展，一种新的技术复杂系统智能体将会出现。类似的划分也出现在文献[22]中。
22. Earth as a Hybrid Planet: The Anthropocene in an Evolutionary Astrobiological Context
https://arxiv.org/abs/1708.08121
图20. 左图：行星智能演化示意图[21]；右图：行星状态的5个阶段[22]
这里，关键的一点是，所谓的不成熟技术圈，往往会忽略来自环境的反馈，同时也会对环境造成伤害。而一旦文明到达了成熟技术圈后，就会更关注环境的稳定。这种描述和前文谈论的自稳态发展不谋而合。
图21. 不同阶段和环境的交互。（左上）不成熟的生物阶段，没有在环境和生命中形成反馈回路；（左下）成熟的生物阶段，和环境形成良好的互动，整个系统处于稳定状态；（右上）不成熟技术阶段（当前人类所处的阶段），技术活动对环境产生强烈的印象，改变了行星系统的状态。（右下）成熟技术阶段，技术活动和环境之间形成良性互动，进入新的稳定状态。
3. 从“单体智能”到“多体协同”
那么，根据上面的讨论，现代人类的技术圈是否已经发展到了成熟阶段呢？我们又如何促成技术圈更加成熟？张江老师的回答是，要强调“多体协同”智能的发展，而不是像现在这样一味地发展“单体智能”。
首先，张江老师将AI发展从更大尺度上分成三个历史性阶段，即界面的AI、泛在的AI和占意的AI。让我们先来讨论前两个阶段。
这是当前人工智能发展的阶段，即我们主要通过人机交互的形式和 AI 进行互动，这也是当前人工智能技术主要的发展方向。正是在这一阶段，特别是伴随着ChatGPT等大型语言模型的出现，人们发展起了“单体智能”技术，并让“单体智能”日臻成熟。
然而，人工智能的下一阶段，将逐渐从“单体智能”向“多体协同”智能转变。这是因为，随着物联网、智慧城市、区块链等技术的大力发展，未来将会出现这样两点特征：
-
一是随着第一阶段界面的 AI 把人机交互问题解决好之后，人工智能发展的主体将逐渐入侵物理世界，于是大量的机器人、智能设备、物联网等设备将会涌入互联网，AI 将变得非常普遍，因此我们称为“泛在的 AI”；
-
二是，未来的交互，将不再是人与人，甚至人与机器的互动，而更多的是机器彼此之间的互动，它们的互动规模总量将远超前两者。
然而，我们为什么要关注机器之间的互动呢？这是因为我们可以通过为机器制定规则，而创造出理想化的“最优”社会。例如“Economic reasoning and artificial intelligence”这篇2015年发表在 Science 上的文章就指出，古典经济学理论虽然不适用于人类，但很可能适用于机器。我们有机会为机器制定一个“理想化”的、“完全理性”的社会互动规则。这种全局智能体会设计出比人类智慧更先进、更优秀的系统。所以，在未来，面向超大型复杂系统的优化、博弈、规划与控制这一类的研究主题将会超过机器学习与推理，成为更值得关注的研究热点。
23. Economic reasoning and artificial intelligence, https://www.science.org/doi/10.1126/science.aaa8403
回到行星智能的主题，“多体协同”智能的发展更加靠近前面讨论的行星智能。因为，只有在一个规模足够巨大的整体实现对环境的感知和调控的复杂系统，才有可能在人类集体的层面实现“自稳态觉醒”。所以，张江老师认为，未来人们更应该大力发展“多体协同”、“复杂系统的优化与控制”等相关领域，而并非现在的以“大模型”为基础的单体智能。
4. 脑洞大开的第三个阶段：“量子化生存”
张江老师甚至于还设想了人工智能未来发展的第三个阶段，即“占意的AI”，字面意思理解就是 AI 技术将围绕着意识，乃至于潜意识层面展开。在这一阶段中，有两大技术的发展或将成为至关重要的因素：
-
脑机接口技术——站在单体智能的角度来说，人-机交互将再次实现新的飞跃，人与机器的互动终于可以绕开语言而直接与“心灵”交互了，通过技术的帮助，人与人之间的沟通，也将变得非常流畅。这个时候，人类的语言功能，甚至于与其伴随的意识功能可能都将退化（自我意识功能与语言存在着密不可分的关系）。人类社会将彻底呈现为一个“心灵”的社会。
-
量子信息与量子计算技术——相对于经典计算来说，量子计算过程中的“酉计算”是一种“信息守恒”的，也即一个零熵增的物理过程。但是，由于目前量子机器与人打交道的方式仍然是通过意识乃至语言，于是，量子计算的结果不得不“塌缩”成经典信息，所以，目前的量子计算并不是零熵增的过程。
试想，一旦未来脑机接口与量子计算技术深度融合，量子计算是很有可能可以绕过意识，直接作用于人类心灵的，于是人类文明才有可能真正进入一个零熵增的阶段，恐怕只有这样，人类才可以一劳永逸地避免“热寂”。此时，无论是人类还是机器，或许都会呈现出一种“量子态”的存在模式。但是，这个时候的人类还能称其为人类吗？当然，这一切未来的设想都需要等待着我们对意识、心灵等主题的深刻理解才能真正看清楚。
5. “拯救2050”计划
那么，究竟如何具体地实现“多体协同”智能，乃至“量子化生存”呢？除了“复杂系统的优化与控制”等研究主题以外，张江老师还开创性地提出了“拯救2050”计划。实际上，这一想法最早成型于2017年出版《走近2050》一书后不久，而现如今大模型的出现恰好也提供了技术上的可行路线。
“拯救2050”计划是一个关注全球发展，应付“奇点危机”，面向人类未来的计划，它试图通过搭建一个全球级别的大型预测聚合平台，从而实现对地球上所发生的一切事件进行尽可能精准的预测。该计划同时也是一个预测的众包平台，通过一种类游戏的方式为准确提供预测方案的个人或机构提供激励机制。通过这一激励机制，系统将会实现自我增长与自我完善，即会让越来越多的人或机构参与进来，同时让预测方案更加准确。随着时间的推演，当参与人数达到行星量级的时候，该系统就会渐渐演变得超越预测游戏，而成为一个行星级别的“自我实现预言”的系统。参与人的预测有可能已经成为了地球未来的规划方案，从而引导着参与者一步步走向规划中的未来。能够具备一定的“自我实现”预言的系统也就具备了初步级别的集体意识，因此，拯救2050计划也便成为了一套“唤醒”行星级集体智能的计划。
人们可以事先设定一个具体的时间点，例如2050年，然后系统开始收集各种关于2050年未来样貌的预测信息，从而自动聚合生成一个关于2050年的“预测世界”。如果关于2050年的预测结果并不乐观，而该系统能够以自我实现预言的方式来运作，那么系统应能早在2050到来之前就可以引导、影响人类关于2050年的预期，从而拯救2050的结果。这套系统将极有可能是解决目前人类面临的气候危机、技术奇点等问题的最终解决方案。
关于这一计划的详情，请参考集智百科词条：拯救2050
https://wiki.swarma.org/index.php/%E6%8B%AF%E6%95%912050
这一方案具体来说就是，搭建一个大型的预测聚合平台。这一平台首先是足够的大，充分利用大模型的技术优势。其次就是对所有关于2050预测的研究进行聚合，包括自然系统中的气候、生态等预测，也包括社会系统中关于交通系统、经济系统等预测，甚至于具体到每一个家庭、每一个人的预测，都可以聚合于其中。这势必要借助互联网众包的形式，尽可能多地让来自各个领域的研究者参与其中，提交他们的预测结果。当越来越多的人参与，以及这一平台聚合的预测结果越来越准的时候，我们就能够通过这一预测平台实现有意识的调控，比如上传的是规划后的未来，使其成为一个“自我实现的预言”，人类和机器就有可能实现一种平衡的自稳态系统。
最后，希望我们人类能够穿过迷雾，走向更加美好的未来。
张江：北京师范大学系统科学学院教授，集智俱乐部、集智学园创始人，集智科学研究中心理事长，曾任腾讯研究院、华为战略研究院等特聘顾问。主要研究领域包括复杂系统分析与建模、规模理论、机器学习等。
个人主页：https://jake.swarma.org/
陶如意，北京师范大学系统科学博士在读。研究方向为复杂系统建模，关注多尺度，规模法则，动力学预测，深度学习等方法。
个人主页：https://pattern.swarma.org/user/5/master
2022年11月30日，一个现象级应用程序诞生于互联网，这就是OpenAI开发的ChatGPT。从问答到写程序，从提取摘要到论文写作，ChatGPT展现出了多样化的通用智能。于是，微软、谷歌、百度、阿里、讯飞，互联网大佬们纷纷摩拳擦掌准备入场……但是，请先冷静一下…… 现在 all in 大语言模型是否真的合适？要知道，ChatGPT的背后其实就是深度学习+大数据+大模型，而这些要素早在5年前的AlphaGo时期就已经开始火热了。5年前没有抓住机遇，现在又凭什么可以搭上大语言模型这趟列车呢？
集智俱乐部特别组织“后 ChatGPT”读书会，由北师大教授、集智俱乐部创始人张江老师联合肖达、李嫣然、崔鹏、侯月源、钟翰廷、卢燚等多位老师共同发起，旨在系统性地梳理ChatGPT技术，并发现其弱点与短板。本系列读书会线上进行，2023年3月3日开始，每周五晚，欢迎报名交流。
