Dwarkesh, Dr. Burry ve John Clark (Anthropic'ten) arasında, yapay zeka hakkında daha iyi bilgi sahibi olan insanlar arasında gelecekteki istihdam etkisi, bunun bir balon olup olmaması gibi konularda yaşanan anlaşmazlıklar üzerine bir tartışmayı yönettim. Bunu başardığı için Substack'e teşekkürler.

Alt anlaşmazlıklardan biri, bu kitlenin kesinlikle ticari olarak değerli şeyler yapabileceği konusunda kesinlikle hemfikir olduğu LLM'lerin ne ölçüde sivri ve tahmin edilmesi zor yollarla hata yapmaya yatkın olduğudur. Evet! İnsanlar da öyle. Ve neyse ki farklı hatalarımız var.

Jack'in vurguladığı ve iyi bilgilendirilmiş insanlarla iyi bilgilendirilmesi gerekenler arasındaki en büyük anlayış boşluklarından biri olan bir nokta: bugünün yetenekleri bir taban değil, bir tabandır. Gelecekteki herhangi bir sistem bunları seçebilir veya çıkarabilir.

Jack, kısaca LLM'lerin, yüz bin test platformu inşa ederek zeka geliştireceğimiz fikrinden keskin bir kopuş olduğunu kısaca anlatır, puan çözümleri dar bir şekilde kazanmayı öğrenir, sonra ??? Genelleştirme, zekayı ima eder.

Bunun yerine, bir ortama ne kadar döndüğüne dair *çarpıcı* genel bir araç geliştirdik ("her yazılı belgeyle bir odaya koyuyoruz") ve sonra ortaya çıkan şey, yeni görevlere attığınızda inanılmaz başarılı oluyor. Önümüzdeki birkaç yıl test yatakları yapmayı gerektirebilir.

Gözlemlediğim gibi: eskiden yapay zekaları StarCraft oynamaya eğitirdik. Bunu yapacak tüm gelecekteki tüm girişimler, sistemin Savaş Sanatını orijinal Çince'de okuduğunu varsayabilir, ancak mimar(lar) bilginin zergling rushları durdurmada sizi daha kötü hale getireceğine inanmıyorsa.

* Jack Clark, John Clark değil. Üzgünüm, Tom Clancy okuduktan sonra büyüdüm. Bir gün tweetlerimi önizleme yapabilecekler ve mobil taslak yaparken ne kadar az yüzüne yumurta attığına sevineceğim.