热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲

Valerio Capraro
米兰比科卡大学副教授。我写关于社交行为和人工智能的内容。
重要的预印本刚刚发布!
我们比较了人类和大型语言模型(LLMs)在七个认识论阶段形成判断的方式。
我们强调了七个断层线,即人类和LLMs根本分歧的点:
基础断层:人类的判断锚定于感知、具身和社会经验,而LLMs仅从文本开始,间接地从符号重构意义。
解析断层:人类通过整合的感知和概念过程解析情况;LLMs执行机械的标记化,产生结构上方便但语义上薄弱的表示。
经验断层:人类依赖于情节记忆、直观物理和心理学以及学习的概念;LLMs仅依赖于编码在嵌入中的统计关联。
动机断层:人类的判断受到情感、目标、价值观和进化塑造的动机的指导;LLMs没有内在的偏好、目标或情感意义。
因果断层:人类使用因果模型、反事实和原则性评估进行推理;LLMs整合文本上下文而不构建因果解释,而是依赖表面相关性。
元认知断层:人类监控不确定性、检测错误并能够暂停判断;LLMs缺乏元认知,必须始终产生输出,使得幻觉在结构上不可避免。
价值断层:人类的判断反映身份、道德和现实世界的利害关系;LLM的“判断”是没有内在价值或责任的概率下一个标记预测。
尽管存在这些断层,人类系统性地过度相信LLM的输出,因为流利和自信的语言产生了可信度偏见。
我们认为这创造了一种结构性条件,称为Epistemia:
语言的可信性替代了认识评估,产生了“知道”的感觉而实际上并不知道。
为了解决Epistemia,我们提出了三种互补策略:
认识评估、认识治理和认识素养。
完整论文在第一条回复中。
与@Walter4C和@matjazperc联合撰写。

83
现在在《自然人类行为》上发布! 🚀🚀
在过去的几十年里,关于集体人类行为的研究在很大程度上依赖于网络。这是直观的:人们与其他人互动。
然而,我们认为这一主导框架缺少一个关键成分。
传统网络将代理表示为节点,将成对关系表示为边。因此,它们基本上假设社会互动可以分解为成对关系。
然而,许多社会过程是不可简化为群体基础的。
一个简单的例子:三位合著者写一篇论文的群体不能简化为三对独立的合著者。群体本身是重要的。
在这篇文章中,我们回顾了广泛的实证和理论案例,其中群体互动无法分解为成对互动,并展示了高阶互动如何在二元关系之上塑造集体行为。
我们提倡在超图上研究集体行为,其中互动可以同时涉及多个代理。
我们回顾了超图如何在多个领域提供新的见解,包括隶属和合作网络、高频接触环境(家庭、朋友)以及社会传播、合作、说真话和道德行为等关键社会过程。
最后,我们概述了未来研究的有希望方向:解决高阶模型的计算挑战;研究群体动态中的偏见和不平等;结合超图和大型语言模型研究语言与行为的共同演化;以及使用高阶网络在实施前模拟政策的影响;等等。
我们对这项工作感到非常兴奋,并希望它能激励在一个快速增长且具有广泛现实世界影响的基础领域进行进一步研究。
论文链接在第一条回复中
这项工作由Federico Battiston (@fede7j)出色领导,拥有一支杰出的合著者团队:Fariba Karimi (@fariba_k)、Sune Lehmann、Andrea Bamberg Migliano、Onkar Sadekar (@OnkarSadekar)、Angel Sanchez和Matjaz Perc (@matjazperc)

116
热门
排行
收藏

