НОВЫЙ ПОДКАСТ! В этом эпизоде @greenpillnet я общаюсь с @edelwax, основателем Института @meaningaligned, чтобы обсудить полное согласование ИИ. Темы: почему согласование ИИ важно, уроки из социальных сетей, роль стимулов и институтов, а также четыре «лунных проекта» для создателей: суперпереговорщики, регуляторы общественных ресурсов, рыночные посредники и агенты управления ценностями. Джо делится надежным видением ИИ и институтов, которые укрепляют человеческую целостность и процветание. 00:00 – Введение в новый сезон Green Pill и Джо Эдельмана 01:59 – Биография Джо и Институт Значимого Согласования 03:43 – Почему согласование важно для ИИ и институтов 05:46 – Уроки из социальных сетей и экономики внимания 09:06 – Критика поверхностных подходов к согласованию ИИ (RLHF, ценности как текст) 13:20 – Глубокие модели ценностей: углубление за пределы абстрактных идеалов 15:11 – Полное согласование через модели, метрики и институты 17:00 – Примирение ценностей с капиталистическими структурами стимулов 19:17 – Избежание дистопических экономик и создание рынков, ориентированных на ценности 21:32 – Четыре лунных проекта: суперпереговорщики, регуляторы общественных ресурсов, рыночные посредники, агенты управления ценностями 27:32 – Объяснение различий между посредниками и агентами управления ценностями 29:09 – Как создатели и ученые могут участвовать в проектах полного согласования 31:10 – Почему критически важно сотрудничество между институтами 32:46 – Видение Джо о мире через 10 лет с полным согласованием 34:51 – Аналогия с продовольственной системой: от «сахара» к питательному ИИ 36:40 – Долгосрочные и краткосрочные стимулы на рынках 38:25 – Оптимистичный взгляд: создание целостности в ИИ и институтах 39:04 – Заключительные замечания и ссылки на работы Джо Посмотрите эту статью: Подписывайтесь на подкаст => @greenpillnet