Вот почему контекстная инженерия так важна. Мы только что провели 2 часа, обсуждая, когда агент должен полагаться на свои внутренние знания, а когда пытаться найти соответствующий контекст в данных для всего лишь одного типа вопроса. Мы рассмотрели 2 тестовых случая из сотен. Даже участники мозгового штурма не смогли прийти к единому мнению о том, что они ожидали бы от людей в этой ситуации. Действительно, не было правильного ответа, и это всегда зависит от контекста, клиента за клиентом. Все в контекстной инженерии — это компромисс между различными факторами: насколько быстро вы хотите, чтобы агент ответил на вопрос, сколько взаимодействия вы хотите потребовать от пользователя, сколько работы он должен выполнить перед тем, как попытаться ответить на вопрос, как он знает, что у него есть исчерпывающие источники для ответа на вопрос, каков уровень риска неправильного ответа и так далее. Каждое ваше решение по одному из этих параметров имеет последствия для другого конца. Бесплатного обеда не бывает. Вот почему создание AI-агентов так захватывающе. Это также подчеркивает, сколько ценности существует выше уровня LLM. Правильное принятие этих решений напрямую связано с качеством ценностного предложения.

Из последнего поста Карпаты: "Приложения LLM будут организовывать, донастраивать и фактически анимировать команды из них в развернутых профессионалов в конкретных вертикалях, предоставляя частные данные, датчики, актуаторы и обратные связи." Это абсолютно верно. В мире агентов ИИ существует гораздо более толстый слой над LLM, чем изначально предполагалось. Критика тонкой оболочки в какой-то степени работала в мире, где люди перепаковывали токены с легкой настройкой интерфейса или системного запроса, что в основном и было возможным 2 года назад. Но агенты ИИ будут комбинировать инструменты, собственные данные, высокоспециализированные системные запросы, специализированные интерфейсы для человеческой части рабочих процессов, продвинутую инженерии контекста для работы с ограничениями контекстного окна и многое другое. Большинство из них будет работать лучше, когда они адаптированы к конкретной вертикали, функции работы или типу задачи. Более того, для достижения реального принятия в корпоративном секторе обычно требуется высокая степень системной интеграции и управления изменениями, чтобы обеспечить изменения в рабочих процессах и их принятие. Именно поэтому компании (или, по крайней мере, продукты), сосредоточенные на конкретных возможностях, часто будут необходимы для фактической реализации этих рабочих процессов. Здесь много возможностей в предстоящем году.

Это те вещи, которые упускаются из виду, когда думаешь о будущем рабочих мест. Если вы можете сделать что-то, что относительно востребовано (но дефицитно, потому что это стоит дорого), и вы увеличиваете объем этого продукта, вы увидите, что спрос растет, а не падает. Я видел множество примеров компаний, нанимающих инженеров для решения проблем, которые не были бы положительными с точки зрения ROI или возможными до появления AI-агентов. В экономике есть много работы, которая должна быть поддержана программным обеспечением, но барьер для начала работы с программным обеспечением кажется непроходимым, когда проект выглядит так, будто он займет год или два. Когда AI позволяет сделать это за месяц или два, вся логика меняется. То же самое будет верно в здравоохранении, праве, некоторых областях маркетинга и во многих других категориях интеллектуального труда.