НОВИЙ ПОД! У цьому епізоді @greenpillnet року Ім приєднався до @edelwax, засновника @meaningaligned Institute, щоб поспілкуватися з Full Stack AI Alignment. Теми: чому узгодження штучного інтелекту важливе, уроки соціальних мереж, роль стимулів та інституцій, а також чотири «місячні знімки» для будівельників: суперпереговорники, регулятори державних ресурсів, ринкові посередники та агенти з управління вартістю. Джо ділиться обнадійливим баченням штучного інтелекту та інститутів, які зміцнюють людську цілісність і процвітання. 00:00 – Знайомство з новим сезоном Green Pill та Джо Едельман 01:59 – Передісторія Джо та Інститут вирівнювання значень 03:43 – Чому узгодження має значення для штучного інтелекту та інституцій 05:46 – Уроки соціальних мереж та економіки уваги 09:06 – Критика поверхневих підходів до вирівнювання штучного інтелекту (RLHF, values-as-text) 13:20 – Товсті моделі цінностей: занурення глибше абстрактних ідеалів 15:11 - Повне узгодження стеків між моделями, метриками та установами 17:00 – Примирення цінностей з капіталістичними структурами стимулювання 19:17 - Уникнення антиутопічних економік та побудова ринків, орієнтованих на створення цінності 21:32 - Чотири місячні постріли: суперпереговорники, регулятори державних ресурсів, ринкові посередники, агенти з управління вартістю 27:32 - Пояснення посередників проти агентів з управління цінностями 29:09 - Як будівельники та науковці можуть долучитися до проєктів з повним вирівнюванням стеків 31:10 – Чому міжвідомча співпраця є критично важливою 32:46 – Бачення Джо світу за 10 років з повним вирівнюванням стеків 34:51 – Аналогія продовольчої системи: від «цукру» до поживного ШІ 36:40 – Довгострокові та короткострокові стимули на ринках 38:25 – Обнадійливий прогноз: впровадження доброчесності в штучний інтелект та інституції 39:04 - Заключне слово та посилання на роботу Джо Ознайомтеся з цією статтею: Підписатися на под => @greenpillnet