Ich moderierte eine Diskussion zwischen Dwarkesh, Dr. Burry und John Clark (von Anthropic) über Meinungsverschiedenheiten unter den Personen, die besser über KI informiert sind, einschließlich der zukünftigen Auswirkungen auf die Beschäftigung, ob es sich um eine Blase handelt usw. Danke an Substack, dass sie es ermöglicht haben.

Eine Unterdisagreement ist, inwieweit LLMs, bei denen sich diese Gruppe absolut einig ist, dass sie kommerziell wertvolle Dinge tun können, in schwer vorhersehbaren Weisen unberechenbar und fehleranfällig sind. Ja! Das sind auch Menschen. Und glücklicherweise haben wir unterschiedliche Fehler.

Ein Punkt, den Jack hervorgehoben hat und der eine der größten Verständnislücken zwischen gut informierten Menschen und denen, die gut informiert sein müssen, darstellt: Die Fähigkeiten von heute sind ein Fundament und kein Limit. Jedes zukünftige System kann sich entscheiden, sie zu übernehmen oder abzulehnen.

Jack erzählt kurz, wie LLMs einen scharfen Bruch mit der zuvor populären Vorstellung darstellten, dass wir Intelligenz entwickeln würden, indem wir hunderttausend Testumgebungen schaffen, punktuelle Lösungen lernen lassen, wie man eng gewinnt, und dann ??? Generalisierung impliziert Intelligenz.

Stattdessen haben wir ein *auffallend* allgemeines Werkzeug entwickelt, das auf das Runden in eine Umgebung abzielt ("steck es in einen Raum mit jedem geschriebenen Dokument") und dann das, was herauskam, sich als äußerst erfolgreich erweist, wenn man es auf neue Aufgaben anwendet. Die nächsten Jahre könnten die Schaffung von Testumgebungen beinhalten.

Wie ich beobachtete: Wir haben AIs trainiert, um StarCraft zu spielen. Alle zukünftigen Versuche, dies zu tun, können davon ausgehen, dass das System die Kunst des Krieges im Original-Chinesisch gelesen hat, es sei denn, die Architekten glauben, dass dieses Wissen dich schlechter darin macht, Zergling-Rushes zu stoppen.

* Jack Clark, nicht John Clark. Entschuldigung, ich bin mit Tom Clancy aufgewachsen. Eines Tages werden sie in der Lage sein, meine Tweets vorzuschauen, und ich werde mich freuen, wie viel weniger Ei im Gesicht passiert, wenn ich mobil entwerfe.