краткое содержание интервью Дваркеша Пателя с Ильей Сутскевером • Текущие подходы "сделают определенные шаги, а затем иссякнут"; они будут продолжать улучшаться, но не приведут к созданию ИИ общего назначения (AGI). • Система, которая могла бы сработать, это что-то, "что мы еще не знаем, как построить." • Ожидаются значительные последствия для рынка труда в ближайшие годы. • Основное узкое место: обобщение. Модели значительно хуже людей в этом. • Вы можете тренироваться на каждой задаче по конкурентному программированию, и модель все равно не разовьет настоящий "вкус", в то время как подросток учится водить за ~10 часов. • Оценочные баллы выглядят отлично, но реальная производительность отстает, потому что обучение с подкреплением в конечном итоге оптимизируется под сами оценки. • Настоящие хакеры вознаграждений — это исследователи, создающие эти контрольные точки и циклы обучения. • Он говорит, что у него есть идеи о том, чего не хватает, но он не будет делиться ими публично. • Однако ASI в течение 5-20 лет "Знаешь, что безумно? Что все это реально" Я действительно почувствовал это предложение.