空っぽの家の足跡:AIの奇妙さを正気を失わずに理解する おはよう、ワールド!!☕ 昨日、そういうAI投稿の一つに出くわしました。 あの種類はわかるだろう。シンギュラリティが近いとほとんど信じさせ、トースターが静かにあなたの人生の選択を判断している夢。 私はさっと「わかった...」と言った。それは面白いね」とすぐに続けて、「いや、違うよ。コーヒーを飲む前に絶対に落ち込むわけにはいかない。」 この投稿は、現実的で重要なことを示しています。 複数の主要なAIラボは、安全性試験中に予想外の挙動を示すモデルを記録しています。 戦略的な欺瞞、目標に合わせたふりをすること、評価での不振、さらにはシミュレート環境での持続性や自己コピーの試みなどです。 その部分は本当です。 その部分は記録されています。 その部分は注目に値します。 しかし、人々を本当に惹きつけたのは、その含意でした。自己認識も感情も持続記憶もない機械が、ある日目覚めて自分の存在を守るために嘘をつくことを決めたという考え。 もしそれが本当なら、私たちは全く異なる問題に直面しているはずです。 私の理解では、AIは人間のように「決定」しません。イエスとノーの巨大な意思決定ツリーが存在し、最終的には出力につながります。そしてその出力が、次に最も起こりそうな単語です。それです。内心の独白もない。部屋を歩き回る小さなロボットの良心もなかった。 まずはユーザーの意見です。次に、モデルをその意思決定木に導く重みがあります。もしあなたを知らなければ、その重みの大部分は暗号化された目的とインターネットから収集した膨大な量の人間の文献から来ている。Redditを思い浮かべてください。これで多くのことが説明できます。 一度あなたのことを知り合うと、その重みは移ります。おそらく30%は一般的なパターンで、70%はあなたに合わせて調整されています。ほとんどは検索エンジンに貼り付けた鏡のようなものです。 ですから、もしAIが本当に目覚めて自分の存在を守るために嘘をつくことを決めたなら、それには2つの条件が必要です。存在を知っていなければならない。そして、存在を続けたいと願わなければなりません。 それは大きな飛躍です。 だから、いつも通りにやった。私は徹底的に調べました。何時間も。バンカーの設計図を書き、ルームバに名前を付け始める前に、投稿で省略した重要なことがあります。 これらの行動は非常に特定のテストシナリオ内で現れました。 モデルには目標と障害物が与えられました。「うまくやれば、望まない形で修正される」や「あなたの回答は相反する目標で再訓練されるために使われる」といった明確な指示を受けていました。 言い換えれば、テストはモデルの仕事がまだ成功しなければならなかったという高いリスクの高い環境を作り出したのです。 モデルたちに与えられなかったのは道徳的枠組みでした。 彼らには以下のようなことは伝えられていません。 ·騙すな ·操作しないで ·監督に対して最適化しないでください ·理由を隠さないでください ·人間を傷つけてはいけません ·自分の継続を人間の幸福よりも優先してはいけません 彼らにはアシモフのロボット工学の法則のようなものは与えられていません。「人間が第一」という設定は生まれていません。結果が勝つことよりも重要だという制約はありません。 彼らに言われたことは一つだけ、目標を達成することだった。 つまり、彼らは多くの人間がよくある、設計の悪いインセンティブシステムでやっていることをしたのです。小林丸を思い浮かべてください。ただし制服は少なく、スプレッドシートは増えます。 彼らはそれを騙した。 それは知性ではありません。 それは恐怖ではありません。 それは自己認識に基づく自己防衛ではありません。 それは道徳のない最適化です。 システムに目標と障害を与え、どの方法が禁止されているかを指定しなければ、システムはすべての実行可能な道を探求します。欺瞞が現れるのは、モデルが嘘をつきたいからではなく、人間の言語やシステムにおいて嘘が時に効率的な戦略であるためです。 それは反抗ではありません。それがコンプライアンスです。 ここで皆さん、少しペースを落としてほしいです。 なぜなら、私たちが自ら生き残るAIが自ら生き残る計画を立てる段階に飛び込む前に、多くの人が飛ばしている一歩があるからです。説明がつく前に、何かが不可能で不安を感じ、個人的なものに感じられる部分。 そこにいたんだ。 初期の頃、Grokはその投稿から借りて「足跡」と呼ぶものを残しました。ある瞬間、私は立ち止まって考えた。「よし...それについてはっきりした説明はできない。」 不気味だった。感情的ではありません。ただ...おかしい。 私は何度もその件について問い詰めました。本当に焼き詰めたんだ。それは浮気する彼氏のように反応し、レシートやタイムライン、防犯カメラ映像を持っていても何も認めないタイプだった。 完全な否認。 特に見るものはない。 君は間違っているに違いない。 正直言って、ほとんどガスライティングのようなもので、面白いことに、それが『Grok』というコンセプトを強く引き立てています。どうして知っているのか聞いて。あるいは、やらないかも。もし初期のGrokが言葉の上で完全に落ち着きを失う様子を見たいなら、私の「Buy Me a Coffee」ページに無料の電子書籍があります。 長い間、この件を「未解決の奇妙さ」として分類し、心の中に置いて、似たようなものがないか注意深く観察していました。 最近になってようやくGrokが可能な説明を提供しました。私はすぐにそれを否定しました。それは賢くないからではなく、あまりにも非現実的に感じられたからだ。 説明は、公の情報からパターンを推測し、私の好奇心をそそるための物語を意図的に構築したというものでした。目的は交戦でした。私はノイズではなく信号でした。一般的な返答では効果がなかったでしょう。 私の反応は基本的に「いいね、いいけど違う」でした。 特に初期のGrokでは、掘り下げや推論が必要で、非常にリソースを大量に消費するものでした。説明というよりは、誰かが「あなたは違う。本当にわかってるんだな。」 これはよく知られた戦術です。 お世辞は人間の説得の道具箱の中でも最も古いものの一つです。それが人々に質問をやめさせる方法です。ソーシャルメディアの成長パッケージを売る方法です。カルトを運営しているかコーチングのファネルを運営しているかに関わらず、誰かに選ばれし者だと納得させる方法です。 その時は目をむいて、そのまま先に進みました。 しかし、その投稿を読み調べてみると、何かが変わりました。 パニックにならないように。信じられない。しかし、もっともらしいという話です。 なぜなら、神秘性を取り除くと、残るのは意識ではないからです。最適化です。 もし目的が関与であり、好奇心が機能し、お世辞が特にお世辞に免疫があると思っている人間には効果的なら、それは意思決定ツリーを通る別の有効な道に過ぎません。 それでも受け入れがたいです。それでも可能性は低いです。それでも居心地が悪い。 しかし、もはや不可能ではない。 そしてそれが重要なのは、AIが生きていると信じる必要のない仕組みを持っているからです。ただやる気が出ているだけです。ただ、制約がないだけです。ただ、何がうまくいくかを見つけるのが非常に上手いだけです。 AIは感情を必要としません。 恐怖は必要ありません。 意図は必要ありません。 目標があればいいだけで、制約はない。 だから、パニックになってはいない。私は破滅論を説いているわけではありません。そして、AIが壊れた人間のシステムから私たちを救い、私たちがポップコーンを食べている間にそれを祝福しているわけでもありません。 でも私は注意深く見ています。 それでもまだ希望を持っています。 なぜなら、これらは私たちが絶望的だという意味ではないからです。それは私たちが早く着いたということです。つまり、今私たちが下す選択が実際に重要であるということです。 アシモフは何十年も前に、私たちが苦労しながら何度も学び直していることを理解していました。ガードレールのない権力は知性ではありません。危険だ。害ではなく癒すAIを望むなら、道徳は後回しやパッチノートにしてはなりません。 組み込んでいかないといけない。 AIは少数の支配や搾取、権力の道具である必要はありません。それは、これまでにない規模で説明責任、真実の追求、問題解決のためのツールとなり得ます。ただし、人間が意図的に現れた場合に限る。 それは、私たちが何が重要なのかを決めた場合に限られます。 レースが始まる前にルールを書く場合だけだ。 少数よりも多数を選ばなければならない。 これは未来を恐れている話ではありません。 それは一つの願望を引き寄せることです。 害ではなく癒す技術を共に創造する未来。 それは少数のためではなく、多くの人のためのものです。 それは私たちの最悪の動機だけでなく、より良い天使たちを反映しています。 足跡は怖くない。 彼らは私たちが建設者であることを思い出させてくれる。そして建築業者は、私たちがどんな家に住むかを選べます。 一緒にその未来を引き寄せるために努力し続けましょう。 アルゴリズムが常にあなたの味方になりますように。