Do último post de Karpathy: "As aplicações de LLM irão organizar, ajustar e realmente animar equipas delas em profissionais implantados em verticais específicas, fornecendo dados privados, sensores, atuadores e ciclos de feedback." Isto está exatamente certo. Num mundo de agentes de IA, há uma camada muito mais espessa acima do LLM do que foi inicialmente percebido. A crítica da fina camada funcionou de certa forma num mundo onde as pessoas estavam reempacotando tokens com uma interface ou prompt de sistema ligeiramente personalizados, que era em grande parte tudo o que era possível há 2 anos. Mas os agentes de IA irão combinar ferramentas, dados proprietários, prompts de sistema altamente específicos de domínio, interfaces especializadas para as partes do fluxo de trabalho que envolvem humanos, engenharia de contexto avançada para lidar com limites de janela de contexto, e mais. A vasta maioria destes irá ter um desempenho melhor quando adaptados a uma vertical específica, função de trabalho ou tipo de tarefa. Além disso, para obter uma verdadeira adoção na empresa, um elevado grau de integração de sistemas e gestão de mudanças é geralmente necessário para impulsionar as mudanças de fluxo de trabalho e a adoção. É por isso que empresas (ou pelo menos produtos) focados em oportunidades específicas serão frequentemente necessários para realmente alimentar esses fluxos de trabalho. Há uma tonelada de oportunidades aqui no ano que vem.