今ではOpusのような強力なエージェントモデルがいますが、彼らは権力を求める衝動や嘘をつく傾向を示していません。これらの特性は(a)必ずより高い能力で現れ、(b)制御が難しいというAIの悲観論にとって致命的な一撃ではないでしょうか?

「モデルに無許可のインターネットアクセスを許可する」というのは、人類が絶対に越えられない重要な一線だったのを覚えています。どうやらこれらの人たちは間違っていたか、少なくとも目標をかなり遠くに移す必要があるように思えます。