El resumen: Entrevista de Dwarkesh Patel con Ilya Sutskever •Los enfoques actuales "llegarán a cierta distancia y luego se desvanecerán" seguirán mejorando, pero no entregarán AGI. •El tipo de sistema que funcionaría es algo que "aún no sabemos cómo construir." • Se esperan impactos significativos en el mercado laboral en los próximos años. •Cuello de botella principal: generalización. Los modelos son mucho peores que los humanos en ello. •Puedes entrenar en cualquier problema de programación competitivo, y el modelo aún no desarrollará un verdadero "gusto", mientras un adolescente aprende a conducir en ~10 horas. •Las puntuaciones de evaluación son geniales, pero el rendimiento real se retrasa porque el entrenamiento en RL acaba optimizándose para las evaluaciones en sí. •Los verdaderos hackers de recompensa son los investigadores que elaboran estos benchmarks y bucles de entrenamiento. •Dice que tiene ideas sobre lo que falta, pero no las comparte públicamente. • ASI, sin embargo, en un plazo de 5-20 años "¿Sabes qué es una locura? Que todo esto es real" Realmente sentí esa frase.