新しいポッド! @greenpillnet のこのエピソードでは、@meaningaligned Institute の創設者である @edelwax が参加して、フルスタック AI アライメントについてチャットしました。 トピック: AI の調整が重要な理由、ソーシャル メディアからの教訓、インセンティブと制度の役割、そしてビルダーにとっての 4 つの「ムーンショット」: スーパー ネゴシエーター、公共資源規制当局、市場仲介者、バリュー スチュワードシップ エージェント。ジョーは、AI と、人間の誠実さと繁栄を強化する制度に対する希望に満ちたビジョンを共有しています。 00:00 – グリーンピルの新シーズンとジョー・エデルマンの紹介 01:59 - ジョーの経歴と意味調整研究所 03:43 - AIと機関にとってアライメントが重要な理由 05:46 - ソーシャルメディアとアテンションエコノミーからの教訓 09:06 – 浅い AI アライメント アプローチ (RLHF、テキストとしての値) に対する批判 13:20 – 価値の厚いモデル: 抽象的な理想よりも深く 15:11 – モデル、メトリック、機関間のフルスタックアライメント 17:00 – 価値観と資本主義的インセンティブ構造の調和 19:17 – ディストピア経済を回避し、価値主導型の市場を構築する 21:32 – 4つのムーンショット:スーパーネゴシエーター、公共資源規制当局、市場仲介者、バリュー・スチュワードシップ・エージェント 27:32 – 仲介業者とバリュー・スチュワードシップ・エージェントの説明 29:09 - ビルダーと学者がフルスタックアライメントプロジェクトに参加する方法 31:10 - 機関間のコラボレーションが重要な理由 32:46 – フルスタックアライメントによる10年後の世界のジョーのビジョン 34:51 - 食品システムのアナロジー:「砂糖」から栄養価の高いAIへ 36:40 – 市場における長期インセンティブと短期インセンティブ 38:25 – 希望に満ちた見通し: AI と機関にインテグリティを構築する 39:04 – 閉会の挨拶とジョーの作品へのリンク その論文をチェックしてください: ポッドをサブスクライブする => @greenpillnet