今日、私たちはピラミッドでチームを構築しています。1人のリーダー、複数のマネージャー、多くの個人貢献者。 AI の世界では、どのチーム構成が最も理にかなっていますか?以下にいくつかの代替案を示します: まず、短いピラミッドです。マネージャーはエージェントマネージャーになります。昔の個々の貢献者によって実行された作業は、エージェントのワークロードになります。誰もが仕事の中で抽象化のレベルを上げます。 この構成により、人員が 85% 削減されます (1:7:49 -> 1:7)。マネージャーと個人の貢献者の比率は 1:7 から 1:1 になります。マネージャーとエージェントの比率は 1:7 のままです。 第二に、ロケット船🚀! 取締役1名、管理職7名、従業員21名。組織内の全員がエージェントを管理していますが、これらのエージェントは年功序列を反映しています。ディレクターはAIのチーフ・オブ・スタッフを管理し、マネージャーは選手兼コーチであり、どちらも自分で目標を実行し、AIをうまく操作する方法について他の人をトレーニング/コーチングすることで、制御の範囲を半分に短縮します。 この構成により、人員数 (1:7:49 -> 1:7:14) が 53% 削減されます。 未来は画一的なものではありません。 ここにひねりがあります:企業のすべての部門が同じ組織構造を採用するわけではありません。AIの影響は機能によって大きく異なり、企業のカタチがこれまで以上に微妙になる世界が生まれます。 営業チームは、従来のピラミッドやロケット船を維持する可能性があります。人間関係は収益を促進し、人間の共感、創造性、交渉スキルは依然としてかけがえのないものです。制御モデルの古典的なスパンは、信頼と信頼関係が最優先される場合にも当てはまります。 研究開発チームは、短いピラミッド変革の最大の機会を提供します。コード生成は、AI初の真の製品市場適合性であり、大手企業向けのコードの50〜80%を生成します。 カスタマーサクセスとサポートはハイブリッドモデルに進化する可能性があります:AIが日常的な問い合わせを処理し、人間が複雑なエスカレーションと戦略的アカウントを管理します。従来の中間管理職レイヤーは、まったく新しいものに変わります。 この進化は、チームを効果的に拡張することについて私たちが知っているすべてのことに疑問を投げかけています。6〜7人の直属の部下という古い知恵は、マネージャーが人間の部下とAIエージェントの両方を監督すると崩壊します。 歴史的に経営階層を正当化してきた採用の負担も変化します。マネージャーは、人材の発掘と育成ではなく、AI 機能の構成と人間と AI のコラボレーションの最適化にますます重点を置いています。 会社が組織図を出荷する場合、チームにはどのような組織図を思い描いていますか?

1日あたり1兆トークン。それは多いですか? 「そして、Foundry APIによって提供されるトークンの数だけを絞って見ると、今四半期は100トン以上のトークンを処理し、前年比5倍に増加し、先月だけで記録的な50トンのトークンも含めました。」 4月、Microsoftは統計を共有し、Foundry製品が月に約1.7トンのトークンを処理していることを明らかにしました。 昨日、Vipul は毎日 2 トンのオープンソース推論を処理していると共有しました。 7月、Googleは驚異的な数字を発表しました。 「5月のI/Oで、私たちはサーフェス全体で毎月480兆のトークンを処理したと発表しました。それ以来、その数は倍増し、現在では毎月980兆以上のトークンを処理しており、これは目覚ましい増加です。」 Google は毎日 32.7 トンを処理しており、これは Together の 16 倍、Microsoft Foundry の 4 月の量の 574 倍です。 これらの図から、いくつかの仮説を導き出すことができます。 1. オープンソースの推論は推論の 1 桁の部分です。Google の推論トークンのうち、Gemma のようなオープンソース モデルからのものの割合は不明です。しかし、Anthropic と OpenAI が 1 日あたり 5t-10t のトークンであり、すべてクローズドソースであり、さらに Azure のサイズがほぼ同じであると仮定すると、オープンソースの推論は推論全体の約 1-3% になる可能性があります。 2. エージェントは早いです。Microsoft のデータ ポイントによると、GitHub、Visual Studio、Copilot Studio、Microsoft Fabric 内のエージェントは、Azure での AI 推論全体の 1% 未満に貢献しています。 3. 今年、GoogleのAIデータセンターインフラへの850億ドルの投資に対し、Microsoftは800億ドルを投資すると予想されており、各社のAI推論ワークロードは、ハードウェアのオンライン化とアルゴリズムの改善の両方を通じて大幅に増加するはずです。 「ソフトウェアの最適化だけで、同じGPUで1年前と比較して90%多くのトークンを配信しています。」 Microsoft は GPU からより多くのデジタル レモネードを絞り出しており、Google も同様のことをしているに違いありません。 1日あたり最初の10tまたは50tのAIトークンが処理されるのはいつですか?今、そう遠くないでしょう。 - 空中からの見積もり! - Google と Azure はそれぞれ 1 日あたり 33 トンのトークン、Together と他の 5 つのネオクラウドはそれぞれ 1 日あたり約 2 トンのトークン、Anthropic と OpenAI は 1 日あたり 5t トークンで、1 日あたり 88 トンのトークンが得られます。Google のトークンの 5% がオープンソース モデルからのものであると仮定すると、1 日あたり 1.65 トンのトークン、つまり推論全体の約 1.9% になります。繰り返しになりますが、非常に大まかな計算です