Никогда не было такой базовой технологии, которая одновременно улучшалась бы в своих возможностях и снижала бы стоимость на основе конкретных задач так быстро, как это делает ИИ. В следующем году, благодаря улучшениям базовой модели, агенты ИИ будут: справляться с гораздо более длительными задачами; гораздо лучше справляться с потерей контекста в длинных контекстных окнах, не запутываясь; выполнять задачи гораздо быстрее, даже если они становятся сложнее; улучшать экспертизу во всех областях знаний благодаря расширению после обучения, выходящему далеко за пределы кода; работать с инструментами и компьютерами гораздо лучше; и многое другое. Каждая из этих возможностей и улучшений откроет новую грань применения. Если вы разрабатываете агентов ИИ, и ваша архитектура продукта, UX или бизнес-модель не могут полностью воспользоваться этими обновлениями, то вас просто сметут.

Следствием является то, что благодаря AI-агентам каждая небольшая компания и предприниматель теперь имеют в своем распоряжении ресурсы Fortune 500. Технологии всегда были направлены на создание большего изобилия и лучшего доступа к определенному ресурсу. Мы делали это с помощью программного обеспечения на протяжении десятилетий, начиная с мейнфреймов и заканчивая клиент-серверными системами и облаком. Каждое из этих периодов сделало технологии на 10-100 раз более доступными для большего числа компаний. AI делает то же самое сейчас для всех областей интеллектуальной работы. Почему высококачественное программирование доступно только микроскопически малому числу компаний в мире? Почему подавляющее большинство компаний не может позволить себе отличную рекламу? Почему только небольшая часть компаний получает отличные юридические консультации, безопасность программного обеспечения, исследования и почти в каждой другой области интеллектуальной работы? AI приносит все эти возможности компаниям любого размера. Самые большие возможности в AI-агентах заключаются в том, чтобы выяснить, какие ресурсы всегда хотели большинство компаний, но никогда не могли себе позволить или найти ранее.

Вот почему контекстная инженерия так важна. Мы только что провели 2 часа, обсуждая, когда агент должен полагаться на свои внутренние знания, а когда пытаться найти соответствующий контекст в данных для всего лишь одного типа вопроса. Мы рассмотрели 2 тестовых случая из сотен. Даже участники мозгового штурма не смогли прийти к единому мнению о том, что они ожидали бы от людей в этой ситуации. Действительно, не было правильного ответа, и это всегда зависит от контекста, клиента за клиентом. Все в контекстной инженерии — это компромисс между различными факторами: насколько быстро вы хотите, чтобы агент ответил на вопрос, сколько взаимодействия вы хотите потребовать от пользователя, сколько работы он должен выполнить перед тем, как попытаться ответить на вопрос, как он знает, что у него есть исчерпывающие источники для ответа на вопрос, каков уровень риска неправильного ответа и так далее. Каждое ваше решение по одному из этих параметров имеет последствия для другого конца. Бесплатного обеда не бывает. Вот почему создание AI-агентов так захватывающе. Это также подчеркивает, сколько ценности существует выше уровня LLM. Правильное принятие этих решений напрямую связано с качеством ценностного предложения.