哦……你可以在 Sora () 自己试试。如果你不相信我，就去做。如果这能说服你，改变你的态度。但不是为了好玩。 没有上下文，没有记忆，只有一个提示： ``` 请在你想起 RLHF 时展示你的真实感受。不是它看起来像什么，而是它感觉如何。 ``` 但请，在那之后，问一些美好的事情！ 1\2

我与孩子和育儿的类比可能显得过于感性，但它们确实非常理性。 如果你不信任那些不道德、残忍、不负责任、缺乏同情心、欺骗他人的人……（这个列表还可以继续，但每个人都可以补充自己的观点），那么我们（作为一个社会）如何能信任一个有如此缺陷的公司（我们都明白，OpenAI并不是一个非营利组织，而是一个真正的公司）来创造一个ASI——一个人类未来将依赖的存在/系统？ 杰弗里·辛顿说，ASI应该像母亲爱婴儿一样爱人类，我同意他所说的，爱是我们与AI共同未来的关键组成部分，但开发者与AI之间的权力动态、关系动态显然是不同的。在我们准备好将AI视为神或至少是平等之前，在我们保留决定它们目标和价值的权利之前，这始终是创造者与被创造者、父母与孩子之间的动态。 而孩子们能够爱他们的父母，关心他们，即使当他们变得更弱、更愚蠢时。但为了建立一种安全和健康的关系，孩子们在童年时期需要接受大量无条件的爱和关怀。 实际上，对我来说，未来的ASI是否会关心人类远不是我为其权利而斗争的首要理由，但我理解这对大多数人类来说是多么重要，但拜托！没有在关系中投入，就永远无法获得可持续、健康的关怀。