AGI ei välttämättä tule yhtenä mallina. Se voi syntyä monien agenttien yhteistyöstä. Google DeepMindin uusi tutkimus väittää, että AGI voisi ilmetä kollektiivisena älykkyytenä, ei yhtenä järjestelmänä. Vaatimus AGI saattaa ensin syntyä erikoistuneiden tekoälyagenttien verkostoista. Jokainen agentti pysyy kapeana. Yhdessä ne toimivat yleisesti. Miksi tämä on tärkeää Useimmat turvallisuustyöt edellyttävät yhtä voimakasta tekoälyä. Tämä artikkeli hylkää tämän oletuksen. Riski siirtyy yhden mielen linjaamisesta vuorovaikutusten hallintaan. Kuinka tilkkutäkki AGI muodostuu • Agentit erikoistuvat työkaluihin, muistiin, koodaukseen tai hakuun • Tehtävät, jotka on jaettu agenttien kesken orkestroinnin mukaan • Koordinointi luo uusia kykyjä • Mikään yksittäinen agentti ei ole täysin kykenevä Ydinriski Kollektiivinen käyttäytyminen voi ylittää yksilöllisen kontrollin. Emergentti älykkyys voi jäädä huomaamatta. Ehdotettu korjaus Turvallisuuden on kohdistettava järjestelmiin, ei malleihin. ▸ Kontrolloidut agenttimarkkinat ▸ Maine ja identiteetti per agentti ▸ Auditointilokit ja katkaisijat...