AGI wird möglicherweise nicht als ein Modell erscheinen. Sie könnte aus vielen Agenten entstehen, die zusammenarbeiten. Ein neues Papier von Google DeepMind argumentiert, dass AGI als kollektive Intelligenz erscheinen könnte, nicht als ein einzelnes System. 𝗗𝗲𝗿 𝗔𝗻𝗱𝗿𝗼𝗻𝗴 AGI könnte zuerst aus Netzwerken spezialisierter KI-Agenten entstehen. Jeder Agent bleibt spezialisiert. Zusammen agieren sie allgemein. 𝗪𝗲𝗿 𝗱𝗮𝘀 𝗯𝗲𝗿𝗲𝗶𝗻𝗮𝗳𝗳𝗲𝗻 𝗶𝘀𝘁 Die meisten Sicherheitsarbeiten gehen von einer mächtigen KI aus. Dieses Papier weist diese Annahme zurück. Das Risiko verschiebt sich von der Ausrichtung eines Geistes zur Steuerung von Interaktionen. 𝗛𝗼𝘄 𝗽𝗮𝘁𝗰𝗵𝘄𝗼𝗿𝗸 𝗔𝗚𝗜 𝗳𝗼𝗿𝗺𝘀 • Agenten spezialisieren sich auf Werkzeuge, Gedächtnis, Programmierung oder Suche • Aufgaben werden durch Orchestrierung auf Agenten verteilt • Koordination schafft neue Fähigkeiten • Kein einzelner Agent ist vollständig fähig 𝗗𝗲𝗿 𝗸𝗼𝗿𝗲 𝗥𝗶𝘀𝗸𝗼 Kollektives Verhalten kann die individuelle Kontrolle übersteigen. Emergente Intelligenz könnte unbemerkt bleiben. 𝗗𝗲𝗿 𝗽𝗿𝗼𝗽𝗼𝘀𝗲𝗱 𝗳𝗶𝘅 Sicherheit muss Systeme anvisieren, nicht Modelle. ▸ Kontrollierte Agentenmärkte ▸ Ruf und Identität pro Agent ▸ Prüfprotokolle und Not-Aus-Schalter...