Chamath: Dois termos que você precisa prestar atenção na IA são Prepreenchimento e Decodificação "Tem dois termos que acho que você vai ouvir muito nos próximos anos." "O primeiro termo é pré-preenchido, e o próximo é decodificação." "O que prepreenchimento e decodificação são duas formas muito distintas de como os modelos pensam e como um modelo passa pelo processo de responder a uma pergunta que você lhe faz." "E então, quando você envia um prompt para a IA, o que acontece é que o modelo processa isso. Isso é chamado de fase de leitura ou pré-preenchimento." "Ele lê todo o seu prompt de uma vez. E então faz um monte de matemática, calcula todas essas relações entre as palavras e as armazena na memória temporária." "O problema é que isso é realmente limitado ao computo. Então isso exige força bruta massiva. E as GPUs Nvidia arrasam aqui." "E a arquitetura deles é projetada para processamento paralelo massivo, o que os torna realmente incríveis em digerir esses prompts longos." "Então o problema só vai crescendo cada vez mais, a Nvidia domina completamente." "Mas a próxima fase, essa fase crítica, a fase de decodificação, é a fase de escrita, certo?" "Então o modelo começa a gerar uma resposta, você faz uma pergunta e a resposta dele, um token de cada vez." "E então, para escolher o próximo token para escolher a próxima palavra, ele precisa olhar tudo o que já disse para não alucinar." "O problema é que isso é extremamente limitado em largura de banda de memória." "E na nossa arquitetura, há muito tempo, tomávamos essas decisões de design desde o primeiro dia." "E o que fizemos foi adotar uma abordagem arquitetônica muito diferente, uma tecnologia de processo muito conservadora. Não estávamos ultrapassando os limites da física." "E usamos muito do que chamam SRAM. Então memória no chip para que pudéssemos fazer essa coisa de decodificação tão bem ou melhor que todo mundo." "E agora, quando você junta essas duas coisas, acho que isso vai criar uma enorme aceleração na capacidade de toda essa camada de infraestrutura ficar muito mais barata e valiosa, o que suspeito que terá muito mais atração dos desenvolvedores, muito mais aplicativos sendo construídos, bilhões e bilhões de pessoas usando."

Eu analisei os dados. De novo. Eu fiz um mapa. De novo. A imagem agora está ainda MAIS LIMPA. Estados sem exigência de identificação de eleitor têm 16 vezes mais probabilidade de oferecer benefícios sociais a imigrantes ilegais do que estados que exigem identificação (67% contra 4%, p<0,0001). Os democratas estão importando e pagando ilegais por votos. Detalhes👇

Newsom tem tentado ativamente ocultar desperdício e fraudes nos gastos com pessoas em situação de rua. Ele vetou um projeto de lei que exigia o relatório de dados de custos e resultados, que havia sido aprovado por unanimidade na Legislatura e recomendado pelo Auditor do Estado após descobrir que o estado perdeu o controle de 24 bilhões de dólares.