AGI може не з'явитися як єдина модель. Це може виникнути через спільну роботу багатьох агентів. Нова стаття від Google DeepMind стверджує, що AGI може виглядати як колективний інтелект, а не як єдина система. Претензія AGI може спочатку виникнути з мереж спеціалізованих агентів ШІ. Кожен агент залишається вузьким. Разом вони діють загально. Чому це важливо Більшість роботи з безпеки передбачає один потужний ШІ. Ця стаття відкидає це припущення. Ризик зміщується від узгодження одного розуму до керівництва взаємодіями. Як формується клаптиковий AGI • Агенти спеціалізуються на інструментах, пам'яті, кодуванні або пошуку • Завдання, розподілені між агентами за оркестрацією • Координація створює нові здібності • Жоден агент не є повністю здатним Основний ризик Колективна поведінка може перевищувати індивідуальний контроль. Емерджентний інтелект може залишитися непоміченим. Запропоноване виправлення Безпека має бути спрямована на системи, а не на моделі. ▸ Ринки контрольованих агентів ▸ Репутація та ідентичність кожного агента ▸ Журнали аудиту та автоматичні вимикачі...