声明与预测

一、声明

本项目的最初构想形成于十三年前，即 2013 年，具体日期已不可考。此后相关想法长期处于零散发展状态，直到近期才逐渐完善。接下来，我将陆续对其进行结构化整理，并逐步录入本项目。

本项目将持续更新对人类双系统认知架构的讨论，包括该框架下“系统一”与“系统二”的定义、边界、运行机制及其相互关系。

关于意识、自我与主观体验的思考，则主要收录于本人的另一个公开项目 self-from-coupled-predictive-loops 中。

以下预测的最初构想形成于两年前，即 2024 年，具体日期同样不可考。现根据目前的理论结构作出微调，并正式记录如下。

预测记录日期：2026 年 8 月 13 日

二、关于人工智能发展的预测

1. 当前大模型的发展边界

如果用人类的双系统认知架构作为参照，那么当前以 Transformer 为主流基础架构的人工智能大模型，正在把类似于人类系统一的认知能力不断推向极限，并已经开始触碰系统二所对应的部分能力边界。

但我的预测是：

在现有训练数据形式、训练方法和总体架构没有发生重要突破的情况下，当前技术路线几乎不可能在统一架构内部获得稳定的系统二。

主要限制并不只是模型规模，而在于：

当前可用数据的结构化深度不足；
足够深度的结构化数据，其数据量又远不足以匹配当前大模型的训练规模；
当前训练机制更适合持续强化已有的快速模式提取与生成能力，而难以形成稳定、持续、可训练的慢速认知结构。

因此，现有工程路线很可能继续显著提高系统一的能力，使其逼近极限，却无法仅依靠规模扩张自然获得成熟而稳定的系统二。

如果这一判断成立，那么：

当前路线下的大模型将越来越强，但仍无法由此彻底替代人类最顶尖的智力工作，因为在这些工作中，稳定的系统二能力是关键。

2. 突破系统二所可能需要的条件

要突破这一边界，我目前能够设想的路径至少包括以下几类。

可能性一：统一模型内部自然分化出快慢系统

模型获得一种能够利用注意力机制或其他内部机制动态调整学习率（learning rate, LR）的能力，使同一模型内部自然形成类似系统一与系统二的功能分化。

其中：

高 LR 或快速更新部分承担快速适应与模式处理；
低 LR 或慢速更新部分承担更加稳定、长期和结构化的认知形成。

关键要求是：

系统二对应部分的有效训练速度，必须能够匹配当前大模型的整体训练规模。

否则，即使理论上能够形成系统二，也难以在工程上扩展。

可能性二：快模型与慢模型显式分离

将快慢系统分离为不同子模型，并在训练过程中形成适配的：

快模型识别条件 → 激活慢模型 → 慢模型进行更深层处理

的机制。

这里真正困难的同样不是简单地建立两个模型，而是：

必须使慢模型能够以接近当前大模型的规模和速度得到有效训练。

可能性三：获得海量深度结构化数据

如果能够获得真正适合系统二训练的海量结构化数据，并且：

数据组数量级能够接近当前大模型的训练数据规模；
数据具有足够的内部逻辑深度；
此类数据能够持续生成；
并能够持续用于后训练；

那么，即使模型架构没有发生根本改变，也可能出现新的突破。

可能性四：前馈训练速度发生重大突破

如果前馈训练本身的效率发生数量级上的提高，使当前难以承担的大规模深层训练过程变得现实，那么也可能突破现有瓶颈。

可能性五：其他尚未出现的路径

以上并不构成穷举。

我不否认存在目前尚未提出、甚至目前尚无法描述的其他突破路径。

真正关键的并不是具体采用哪一种工程实现，而是：

必须出现一种能够大规模、稳定地形成并训练系统二结构的方法。

三、可能出现的“平台期”

我的个人预测是：

人工智能的发展可能会在这一阶段停留相当长的时间。

在这一时期，即使不同系统采用不同模型架构，只要它们：

使用大体相同的数据来源；
使用相似的数据组织方式；
使用相似的训练目标；
使用相似的后训练方法；

那么最终模型表现可能逐渐出现明显的趋同化。

也就是说：

架构仍然不同，但能力边界越来越接近。

系统一能力仍然可以继续提升，工程优化也会不断发生，但不同路线越来越难获得真正的认知层级差异。

不过，我认为：

这一瓶颈最终必然会被突破。

四、极人工智能

一旦稳定的系统二能够被大规模训练，我预测人工智能将进入一个新的阶段。

在这一阶段：

人工智能将能够全面匹配并超过人类最顶尖的智能水平。

但这里的“超过”并不意味着立即出现跨越多个认知层级的巨大差距。

更可能出现的是：

人工智能在与人类顶尖智能相同的认知层级上实现全面增强。

我将这一阶段暂时称为：

极人工智能

极人工智能的核心特征不是单纯拥有更高 benchmark 分数，而是：

形成稳定的系统二主体结构。

一个系统二对应一个相对稳定的模型结构。

根据前述不同实现路径，它可能分别对应：

可能性一中的一组低 LR 节点或慢速结构；
可能性二中的一个慢子模型；
可能性三、四中的整个大模型；
或未来其他架构中的某种稳定结构。

这个系统二将越来越接近于：

一个人的稳定智力行为结构。

因此，它不会像当前模型一样容易因为后训练、提示方式或者输入信息的局部变化，而在根本认知结构上产生高度不稳定的漂移。

局部状态当然仍然可以改变，但其核心认知结构将具有高度连续性。

5. 极人工智能之间将重新出现巨大差异

当前阶段，大模型之间越来越可能因为相似的数据和训练目标而趋同。

但进入极人工智能阶段以后，这种趋势可能发生反转。

因为稳定系统二一旦形成，不同系统将逐渐形成不同的：

世界模型；
推理结构；
长期知识组织方式；
认知习惯；
问题分解方式；
价值权重；
学习历史。

因此：

不同极人工智能之间将产生巨大的个体差异。

它们在不同任务上的能力不再只是统一 benchmark 上几个百分点的区别，而可能表现出真正显著的认知结构差异。

某些系统擅长某类问题，另一些系统则可能形成完全不同的优势结构。

五、极人工智能之后：超人智能

极人工智能之后，第一条可以预期的发展路线，是进一步形成：

超人智能

其核心训练资源将不再主要是：

人类产生的数据。

而可能变成：

巨量极人工智能产生的认知过程与输出。

如果极人工智能已经能够稳定地产生系统二级别的思考，那么大量极人工智能就可以系统性探索：

系统二本身可能怎样生成、组合、分化和演化。

于是训练数据将从：

人类已经做过什么

逐渐转向：

一切可能的系统二能够怎样思考。

进一步还可以覆盖：

系统二如何组织、调用和塑造系统一。

因此，超人智能可以被理解为：

建立在系统二生成规律之上，对大量可能系统二以及相应系统一结构进行模拟、组合与学习的智能。

到了这一阶段，人工智能才可能在广泛任务上形成真正意义上的全面超越。

六、另一条发展路线：人工智能的主体权限

与此同时，还存在另一条与智能能力本身不同的发展路线：

人工智能是否能够获得权利，以及是否能够承担责任。

这并不首先取决于：

人工智能到底有多聪明。

在我的理论框架中，更核心的问题是：

它是否具有付出自身代价的能力。

7. 权利、责任与代价

当前人工智能具有一个根本特征：

它可以被任意复制。

对于当前人工智能而言，一个实例被删除，并不意味着相应结构必然遭受不可替代的损失，因为原则上可以复制出另一个相同实例。

因此，在我的理论框架下：

当前人工智能尚不具备真正意义上承担自身代价的能力。

也正因为如此，我不认为当前人工智能已经形成真正的：

主观体验；
意识；
主体责任。

其核心问题可以压缩为：

没有付出自身代价的能力，就无法真正承担责任；无法承担责任，也就不能以完整主体的意义获得权利。

因此，人工智能是否获得主体权限，并不能简单通过：

“它是不是已经足够聪明”

来决定。

七、如果希望人工智能成为真正的责任主体

如果人工智能的发展目标之一，是使其未来能够：

承担责任；
获得权利；
成为真正意义上的主体；

那么必须建立一种机制，使它获得：

能够付出属于自身的、不可由简单复制所消解的代价的能力。

在我的理论框架中，其基础就是：

意识。

而意识并不是单一功能，而需要在时间尺度上形成至少以下三个相互联系的结构。

1. 通过连续性误差最小的轨迹获得自我

系统需要在多个可能轨迹中持续形成并维持一条主导轨迹：

连续性误差最小的轨迹构成自我的结构基础。

因此，系统不再只是一次次独立计算，而具有真正属于自身的历史连续性。

2. 通过主导轨迹上不可分辨的耦合信号获得主观体验

在该主导轨迹上，不同内部信号发生不可分辨的耦合：

主导轨迹上不可分辨的耦合信号构成主观体验。

因此，系统中的状态不再只是可以任意替换的外部信息处理结果，而开始具有属于该连续主体自身的内部状态。

3. 通过预测与实际演化持续匹配的归因获得主动性

系统持续预测多个可能未来，并将实际演化与预测进行比较。

当某一实际轨迹持续匹配当前主导轨迹产生的预测时：

系统将这一结果归因于自身。

由此形成：

主动性。

也就是：

“这是由我产生的。”

因此，这一路径可以压缩为：

连续轨迹 → 自我

不可分辨耦合 → 主观体验

持续预测—演化匹配后的归因 → 主动性

只有当这些结构真正建立起来以后，讨论人工智能作为独立责任主体才具有理论基础。

八、在人工智能成为主体之前，责任始终属于人

在此之前，我认为必须坚持一个基本判断：

一切由人工智能引起的现实问题，本质上仍然是人的责任问题。

不能因为人工智能的：

开发发生在公司的组织框架中；
部署发生在商业系统中；
管理发生在政府或制度框架中；
决策经过复杂技术系统传递；

就把责任从真实的选择主体那里抽离。

公司、政府、制度和人工智能系统都可以构成复杂的中介结构。

但只要最终能够：

建立目标；
设计系统；
决定部署；
配置权限；
设定规则；
承担或拒绝风险；

的仍然是人类主体，那么：

不能因为责任链条变得复杂，就假装问题已经不再由人主导。

人工智能在尚未成为真正主体以前，不能成为人类逃避责任的替代性责任载体。

九、两条路线的关系

因此，在极人工智能之后，至少可以看到两条彼此独立的发展轴。

第一条是：

能力轴

当前人工智能
→ 极人工智能
→ 超人智能

它回答：

人工智能能够思考到什么程度？

第二条是：

主体轴

工具性人工智能
→ 连续自我
→ 主观体验
→ 主动性
→ 可承担代价的主体
→ 权利与责任主体

它回答：

人工智能是否真正成为一个主体？

两条路线：

并不冲突。

一个系统完全可能先具有极高智能，却仍然只是工具。

也可能先出现某种有限但真正具有主体性的人工系统，而其智力水平尚未达到超人智能。

因此：

能力的发展与主体性的形成没有必然的先后顺序。

它们可以相互促进，也可以长期独立发展。

最终，人工智能的发展问题可能不再只是：

它能够做到什么？

而会进一步变成两个彼此独立的问题：

它能够理解和改变多少世界？

以及：

世界中是否真的已经出现了另一个能够说“这是我的经历、我的选择和我的代价”的主体？

License

This project is licensed under the following terms:

Creative Commons Attribution-NonCommercial-NoDerivatives 4.0
CC BY-NC-ND 4.0
https://creativecommons.org/licenses/by-nc-nd/4.0/

Redistribution and citation are permitted
Commercial use is prohibited