Das wichtigste Papier von 2025 handelt nicht von inkrementellen Verbesserungen der Transformer-Architektur. Es geht darum, das sequenzielle, autoregressive Paradigma durch ein paralleles, bidirektionales zu ersetzen. Das LLaDA 2.0-Papier verändert vollständig, wie ich über Diffusionsmodelle denke. Bis jetzt fühlten sich Diffusions-LLMs wie eine interessante Idee an, aber bei weitem nicht wie etwas, das man im 100B-Maßstab betreiben könnte. Dieses Papier ändert das. Ihre Idee ist sehr einfach: Nehmen Sie ein starkes autoregressives Modell und wandeln Sie es in ein Diffusionsmodell um, anstatt eines von Grund auf neu zu trainieren. Die Autoren haben herausgefunden, wie man dies tun kann, ohne das Wissen des ursprünglichen Modells zu zerstören. Sie nennen es "Der Warmup-Stable-Decay-Plan." Der Grund, warum das riesig ist: Ein Diffusionsmodell hat viele Vorteile: paralleles Decoding, starke Leistungsfähigkeit im Denken, Geschwindigkeit usw. Ich verlinke unten auf das Papier. Lesen Sie weiter, um zu sehen, wie wir die nächste Generation von Modellen aufbauen könnten.

Wir konzentrieren uns alle auf AI-Codierung, aber Audio ist ein Bereich, der weltweit enorme Auswirkungen haben wird. Manchmal nehmen wir "Stimme" und "Audio" als selbstverständlich hin. Das sollten wir nicht tun. Das ist riesig.

Schritt-für-Schritt-Anleitung zum Aufbau eines RAG-Systems mit Oracle + Langchain. Die Zeit des spezialisierten Vektorspeichers ist vorbei. Jedes große Datenbankmanagementsystem unterstützt jetzt Vektoren. Das ist riesig! Es ist ein System weniger, um sich Sorgen zu machen, und eine Komponente weniger, die kaputt gehen kann. Oracle 26ai ist vollgepackt mit KI-ersten Funktionen, und ich habe beschlossen, eine einfache Schritt-für-Schritt-Anleitung zu erstellen, wie man es mit Langchain verwendet. Siehe das angehängte Video. Sie benötigen ein paar Dinge, um mitzumachen: 1. Erstellen Sie eine Oracle 26ai-Datenbank – Sie können dies kostenlos online in der Oracle-Cloud tun. 2. Verwenden Sie das unten verlinkte Notizbuch für den Code. Hier ist ein Link zum GitHub-Repository mit dem Notizbuch: Danke an das Oracle-Team für die Zusammenarbeit bei der Veröffentlichung dieses Videos und für das Hosting des Notizbuchs in ihrem GitHub-Repository.