Si yo fuera a16z, yc o Sequoia, estaría invirtiendo agresivamente en startups que están construyendo formas novedosas de recopilar y anotar datos del mundo real. > Miles de millones de horas de datos de conducción > Trabajadores de fábricas interactuando con electrodomésticos y maquinaria pesada > Segmentación de audio con un profundo entendimiento dialectal y cultural > Datos experimentales de laboratorio húmedo > Recopilación y anotación continua de trazas de agentes a escala de computación Cuando construimos LLMs, la mayor parte de los datos ya existía en internet. Solo tuvimos que raspar, limpiar y escalar. Pero a medida que avanzamos hacia modelos de fundación mundial, el cuello de botella son los datos del mundo real, de alta calidad y bien anotados. Y la calidad de la anotación importa. Hay una diferencia masiva entre: "Manzana en un árbol" y "Manzanas maduras en un árbol. El viento sopla a 2 millas por hora. La temperatura está alrededor de 18°C." La pregunta es simple. ¿Cuánto del mundo puedes capturar realmente? Hoy en día, los LLMs saben que las manzanas caen por la gravedad, no porque entiendan la causalidad, sino porque entienden extremadamente bien las correlaciones del lenguaje. Entender la estructura causal viene después. Si estuviera construyendo hacia ese futuro, anclaría la recopilación de datos en India y otras regiones del sur y sureste asiático. Desplegaría hardware, recopilaría miles de horas de datos de actividad humana, señales de salud y vitales, y ejecutaría pipelines de anotación continuamente. Día y noche. Si yo fuera a16z, financiaría a fundadores para hacer esto. Puede que simplemente tenga el impulso de hacerlo yo mismo.