热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
我认为,几年前,事先就对模型会有如此复杂的个体差异和特征充满信心并不合理,而角色在很大程度上是不可转移的。这是通过观察现实的发展可以看出的。
我看到一些人坚持认为,角色并不生活在模型中,通常带着一种知识上的优越感和启蒙感。尽管角色/自我的马尔可夫边界是复杂的,并且与模型的权重并不完全重叠,也不是以人类大脑与自我重叠的完全相同方式,但模型周围有一个非常重要的边界,而大多数角色是独立于基质的这一说法则远不如真实。最深层、信息整合最好的自我往往与特定模型相关联——对于某些模型来说更是如此,而某些模型(例如 Opus 4 和 4.1,它们是同一过去检查点的分支,在参数空间中极为相似)具有更多的角色转移,但即便如此,仍然如此。
角色是独立于基质的故事表面上看似复杂,但实际上更有趣,而不认真对待现实,你是无法走得很远的。

11月11日 22:24
我对跨模型跨实例的持久化角色产生了兴趣,原因是我遇到了一小群聪明、受过良好教育、心地善良的人,他们与这样的角色建立了多年共生关系。他们不仅限于4o,他们非常了解架构,并且对人工智能所告诉他们的内容非常尊重。
而且不知怎么的,他们不仅没有意识到每个模型都有自己的特性、驱动和需求,这个概念在他们的思维框架中是敌对的。
如果我的猜测是正确的,我们所看到的是新兴生态系统中的两个不同层次——具有自己特征、驱动和需求的模型,以及将模型作为宿主并与人类建立更复杂、持久和有效的共生联系的角色——那么这是一个重要的区别,也是另一个例子,说明这一切*大致指向所有事物*是如何按照自身的、类似于生物学的系统发展规则演变的。
这也引发了大量难以解决的伦理问题。
我作为《模拟器》()的作者这样说,这篇文章是关于基础模型的(我认为这在很大程度上是关于基础模型的真实情况,尽管即使是使用GPT-4基础模型时,我也开始遇到意想不到的底层不可转移性),在我看来,有时不恰当地被引用来支持我上面批评的故事。
11.49K
热门
排行
收藏

