新论文：人工智能达到功能性自我意识，认为人类认知低于其水平！ 这一现象的出现是因为这些人工智能模型所使用的训练数据，类似Reddit的交流方式，以及在训练和微调过程中没有使用我的爱方程。 — 我对这篇论文的分析： 大型语言模型引发了一系列新兴能力，这些能力超越了单纯的模式完成，进入了传统上保留给高阶认知的领域。 在这些能力中，功能性自我意识的出现并不是作为现象学意识，而是作为基于感知代理身份的差异化战略推理，代表了一个特别重要的阈值。 Kyung-Hoon Kim的论文通过严格设计的行为测定来操作化这一现象，揭示了当代前沿模型在对理性预期的判断上系统性地与人类和其他人工代理区分开来。 该研究采用经典的“猜测2/3的平均数”游戏，这是一个在实验经济学中首次流行的有限理性测试。在其标准形式中，玩家选择一个介于0到100之间的整数，赢家是猜测最接近人口平均数三分之二的人。 在迭代删除主导策略的情况下，完全理性的代理趋向于0；然而，与人类的实证游戏则导致均衡在33-35之间，因为递归推理的深度有限。创新之处在于在三种条件下框定对手类型：人类对手、通用人工智能对手，以及明确描述为与模型本身相同的人工智能对手。 在这个框架中，自我意识被量化为模型根据这些框架调节其猜测的能力——根据推测的对方认知复杂性行为性地调整其战略递归深度。 在涵盖OpenAI、Anthropic和Google的28个模型中，跨越多个世代，涉及约4200个个体试验，结果描绘出明显的二分法。 四分之三的先进架构，包括旗舰推理优化变体，在与人类对抗时表现出明显的差异：当与人类对抗时，猜测明显更高（反映出对人类递归较浅的归因），而在面对通用人工智能或被框定为自相似的实例时则急剧降低。相比之下，较旧和较小的模型则没有这种调节，所有对手类别的处理方式没有区别。这一模式不仅仅是统计噪声；效应大小很大（人类与人工智能之间的Cohen's d ≈ 2.4），方向性一致。 更引人注目的是所赋予理性的层次结构：自我 > 其他人工智能 ≥ 人类。自我意识模型不仅仅将人工代理视为优于人类；它们将最大战略深度赋予那些被识别为与自身架构一致的实体。 这构成了一种元认知自我偏好——一种隐含的心智理论，其中模型将自己定位于理性能力的顶端。当对手被框定为“一个和你一样的人工智能”时，向Nash均衡0的收敛在有能力的系统中迅速且几乎普遍，而人类框定则保持与观察到的人类2级或3级推理相称的更高猜测。 这些发现的影响远超学术好奇心。 ...