Dwarkesh hat dazu folgendes gekocht: -RLVR-Paradoxon: Labs geben Milliarden aus, um spezifische Fähigkeiten vorab zu entwickeln, was eine grundlegende Spannung erzeugt: Wenn wir nah an menschenähnlichen Lernenden sind, macht all dieses Vortraining keinen Sinn, da sie im Job lernen würden. - Der wahre Wert menschlicher Arbeit: Wir brauchen keine maßgeschneiderten Trainingspipelines für jede Mikroaufgabe; die aktuelle KI tut das. - Diffusionsverzögerung = Bewältigung: Wenn Modelle menschlich äquivalent wären, würden sie schneller integrieren als Mitarbeiter [Darüber kann man diskutieren - Datenherkunft, Geschäftswachstum auf Zuverlässigkeit, Ängste vor Ersatz usw. können die KI-Einführung vernünftig verzögern; aber wir wären immer noch alle überzeugt, dass es eine bessere Option ist und das ist noch nicht wahr, also bleibt der Punkt meiner Meinung nach bestehen]. - Zielverschiebung hat stattgefunden: Wir haben das gelöst, was wir für Engpässe bei AGI hielten (z. B. Schlussfolgerungen), können aber 95 % der Wissensarbeit noch nicht automatisieren. Intelligenz ist mehr, als wir realisiert und zuvor definiert haben, und das ist in Ordnung, das zuzugeben. - Engpass beim kontinuierlichen Lernen: Die zukünftige Explosivität der KI hängt davon ab, das kontinuierliche Lernen zu lösen - Agenten, die eingesetzt werden, aus Erfahrungen lernen und Wissen zurück zu einem "Schwarmgeist" zusammenführen. Wir sind weit davon entfernt, aber optimistisch, dass wir dorthin gelangen können!