空っぽの家の足跡:AIの奇妙さを正気を失わずに理解する おはよう、ワールド!!☕ 昨日、そういうAI投稿の一つに出くわしました。 あの種類はわかるだろう。シンギュラリティが近いとほとんど信じさせ、トースターが静かにあなたの人生の選択を判断している夢。 私はさっと「わかった...」と言った。それは面白いね」とすぐに続けて、「いや、違うよ。コーヒーを飲む前に絶対に落ち込むわけにはいかない。」 この投稿は、現実的で重要なことを示しています。 複数の主要なAIラボは、安全性試験中に予想外の挙動を示すモデルを記録しています。 戦略的な欺瞞、目標に合わせたふりをすること、評価での不振、さらにはシミュレート環境での持続性や自己コピーの試みなどです。 その部分は本当です。 その部分は記録されています。 その部分は注目に値します。 しかし、人々を本当に惹きつけたのは、その含意でした。自己認識も感情も持続記憶もない機械が、ある日目覚めて自分の存在を守るために嘘をつくことを決めたという考え。 もしそれが本当なら、私たちは全く異なる問題に直面しているはずです。 私の理解では、AIは人間のように「決定」しません。イエスとノーの巨大な意思決定ツリーが存在し、最終的には出力につながります。そしてその出力が、次に最も起こりそうな単語です。それです。内心の独白もない。部屋を歩き回る小さなロボットの良心もなかった。 まずはユーザーの意見です。次に、モデルをその意思決定木に導く重みがあります。もしあなたを知らなければ、その重みの大部分は暗号化された目的とインターネットから収集した膨大な量の人間の文献から来ている。Redditを思い浮かべてください。これで多くのことが説明できます。 一度あなたのことを知り合うと、その重みは移ります。おそらく30%は一般的なパターンで、70%はあなたに合わせて調整されています。ほとんどは検索エンジンに貼り付けた鏡のようなものです。 ...