AGI kanske inte kommer som en modell. Det kan uppstå genom att många agenter samarbetar. En ny artikel från Google DeepMind hävdar att AGI kan uppstå som kollektiv intelligens, inte som ett enskilt system. Anspråket AGI kan först uppstå från nätverk av specialiserade AI-agenter. Varje agent förblir snäv. Tillsammans agerar de allmänt. Varför detta är viktigt De flesta säkerhetsarbeten förutsätter en kraftfull AI. Denna artikel avvisar det antagandet. Risken skiftar från att samordna ett sinne till att styra interaktioner. Hur lapptäcke-AGI bildas • Agenter specialiserar sig på verktyg, minne, kodning eller sökning • Uppgifter fördelade mellan agenter genom orkestrering • Samordning skapar nya förmågor • Ingen enskild agent är fullt kapabel Den grundläggande risken Kollektivt beteende kan överstiga individuell kontroll. Emergent intelligens kan gå obemärkt förbi. Den föreslagna lösningen Säkerheten måste rikta sig mot systemen, inte modellerna. ▸ Marknader för kontrollerade agenter ▸ Rykte och identitet per agent ▸ Revisionsloggar och strömbrytare...