Moderé una discusión entre Dwarkesh, el Dr. Burry y John Clark (de Anthropic) sobre desacuerdos entre el grupo de personas mejor informadas sobre la IA, incluyendo el impacto futuro en el empleo, si es una burbuja, etc. Gracias a Substack por hacerlo posible.

Un subdesacuerdo es en qué medida los LLMs, que este grupo está absolutamente de acuerdo en que pueden hacer cosas comercialmente valiosas, son punzantes y propensos a errores de formas difíciles de predecir. ¡Sí! Los humanos también. Y, por suerte, tenemos diferentes bugs.

Un punto destacado por Jack y que es una de las mayores brechas de comprensión entre las personas bien informadas y las que necesitan estar bien informadas: las capacidades actuales son un suelo en lugar de un techo. Cualquier sistema futuro puede optar por ellos o descartarlos.

Jack narra brevemente cómo los LLMs supusieron una ruptura radical con la noción popular de que desarrollaríamos inteligencia construyendo cien mil bancos de pruebas, haciendo que las soluciones puntuales aprendieran a ganar por poco y luego ??? La generalización implica inteligencia.

En cambio, hemos creado una herramienta *sorprendentemente* general sobre lo que se ajusta a un entorno ("ponlo en una habitación con cada documento escrito") y luego lo que se ha salido resulta ser tremendamente exitoso cuando lo lanzas a tareas nuevas. Los próximos años podrían implicar hacer bancadas de pruebas.

Como observé: solíamos entrenar IAs para jugar a StarCraft. Todos los intentos futuros de hacer esto pueden asumir que el sistema ha leído El arte de la guerra en el chino original, a menos que el/los arquitecto(s) crean que ese conocimiento te hará peor para detener los rushes zergling.

* Jack Clark, no John Clark. Perdona, crecí leyendo a Tom Clancy. Algún día podrán adelantar mis tuits y me alegraré de lo mucho menos que ocurre cuando se escribe en el móvil.