Julian Schrittwieser (Anthropic): - Die Diskussion über die KI-Blase auf X ist "sehr losgelöst" von dem, was in den Spitzenlaboren passiert. "In den Spitzenlaboren sehen wir keine Verlangsamung des Fortschritts." - KI wird einen "massiven wirtschaftlichen Einfluss" haben. Die Umsatzprognosen für OpenAI, Anthropic und Google sind tatsächlich "recht konservativ". - Wenn man von Dingen wie METR-Daten extrapoliert, werden die Modelle im nächsten Jahr in der Lage sein, eigenständig an einer ganzen Reihe von Aufgaben zu arbeiten. Die Länge der Aufgaben ist wichtig, da sie die Fähigkeit freischaltet, dass ein Mensch ein Team von Modellen beaufsichtigt, von denen jedes autonom über Stunden hinweg arbeitet (im Gegensatz dazu, dass man alle 10 Minuten mit einem Agenten sprechen muss, um ihm Feedback zu geben). - Es ist "äußerst wahrscheinlich", dass der aktuelle Ansatz zur Ausbildung von KI-Modellen (Vortraining, RL) ein System hervorbringen wird, das in praktisch allen Aufgaben, die für uns hinsichtlich der Produktivität wichtig sind, auf einem ungefähr menschlichen Niveau arbeiten kann. - Zu Move 37: "Ich denke, es ist ziemlich klar, dass diese Modelle neuartige Dinge tun können." AlphaCode und AlphaTensor "haben bewiesen, dass man neuartige Programme und Algorithmen entdecken kann". KI "entdeckt bereits absolut neuartige Dinge" und "wir bewegen uns einfach die Skala hinauf, wie beeindruckend, wie interessant die Dinge sind, die sie selbst entdecken kann." - Es ist "sehr wahrscheinlich", dass wir im nächsten Jahr einige Entdeckungen haben werden, bei denen die Menschen einstimmig zustimmen, dass sie super beeindruckend sind. - KI wird in der Lage sein, eigenständig einen Durchbruch zu erzielen, der einen Nobelpreis wert ist, im Jahr 2027 oder 2028. - Zur Fähigkeit der KI, die Entwicklung von KI zu beschleunigen: Ein sehr häufiges Problem in vielen wissenschaftlichen Bereichen ist, dass es immer schwieriger wird, Fortschritte zu erzielen, je weiter das Feld fortschreitet (d.h. vor 100 Jahren konnte ein einzelner Wissenschaftler zufällig das erste Antibiotikum entdecken, während es heute Milliarden von Dollar kostet, ein neues Medikament zu entdecken). Das Gleiche könnte mit der KI-Forschung passieren - obwohl KI die Forschung neuer KI produktiver machen wird, könnte es keine Explosion geben, da neue Fortschritte immer schwieriger zu finden sein könnten.