Делюсь интересным недавним разговором о влиянии ИИ на экономику. ИИ сравнивали с различными историческими прецедентами: электричеством, промышленной революцией и т.д. Я думаю, что самая сильная аналогия — это ИИ как новая парадигма вычислений (Программное обеспечение 2.0), потому что обе они в основном касаются автоматизации обработки цифровой информации. Если бы вы хотели предсказать влияние вычислений на рынок труда примерно в 1980-х, наиболее предсказуемой характеристикой задачи/работы, на которую вы бы смотрели, было бы то, насколько фиксирован алгоритм этой задачи, т.е. просто ли вы механически преобразуете информацию в соответствии с простыми, легко задаваемыми правилами (например, набор текста, бухгалтерский учет, человеческие калькуляторы и т.д.)? В то время это был класс программ, которые вычислительные возможности той эпохи позволяли нам писать (от руки, вручную). Сейчас с ИИ мы можем писать новые программы, которые мы никогда не могли бы написать вручную раньше. Мы делаем это, задавая цели (например, точность классификации, функции вознаграждения), и мы ищем в пространстве программ с помощью градиентного спуска, чтобы найти нейронные сети, которые хорошо работают против этой цели. Это мой пост в блоге о Программном обеспечении 2.0, который я писал некоторое время назад. В этой новой парадигме программирования наиболее предсказуемой характеристикой, на которую стоит обратить внимание, является проверяемость. Если задача/работа поддается проверке, то ее можно оптимизировать напрямую или с помощью обучения с подкреплением, и нейронная сеть может быть обучена работать очень хорошо. Дело в том, насколько ИИ может "практиковаться" в чем-то. Среда должна быть сбрасываемой (вы можете начать новую попытку), эффективной (можно сделать много попыток) и вознаграждаемой (существует какой-то автоматизированный процесс для вознаграждения любой конкретной попытки, которая была сделана). Чем больше задача/работа поддается проверке, тем больше она поддается автоматизации в новой парадигме программирования. Если она не поддается проверке, она должна выпадать из магии обобщения нейронной сети, надеясь на удачу, или с помощью более слабых средств, таких как имитация. Это то, что движет "зубчатой" границей прогресса в LLM. Задачи, которые поддаются проверке, развиваются быстро, возможно, даже превосходя способности лучших экспертов (например, математика, код, количество времени, проведенного за просмотром видео, все, что похоже на головоломки с правильными ответами), в то время как многие другие отстают по сравнению (творческие, стратегические, задачи, которые сочетают в себе знания о реальном мире, состояние, контекст и здравый смысл). Программное обеспечение 1.0 легко автоматизирует то, что вы можете задать. Программное обеспечение 2.0 легко автоматизирует то, что вы можете проверить.