He llegado a tener sentimientos encontrados sobre "AGI" y "ASI" como términos para transmitir hacia dónde se dirige esta tecnología. Por un lado, la AGI ha desempeñado un papel clave en motivar a personas talentosas que se obsesionaban con este problema (@demishassabis, @ShaneLegg, @ilyasut, muchos otros) y ha permitido el flujo de capital que hizo posibles muchos de nuestros avances. Por otro lado, "AGI" o "ASI" o cualquier variante perjudica activamente el discurso sobre cómo se construye y utiliza la tecnología más interesante de nuestra vida. A) No es una descripción precisa de hacia dónde vamos, al menos como la mayoría interpreta el término. Mira las conversaciones recientes con @karpathy y @dwarkesh_sp y verás al instante lo lejos que estamos de cualquier cosa que se parezca a la verdadera inteligencia humana. No hay pruebas de despegue, los plazos siguen expandiéndose. Estamos construyendo tecnología muy útil que podría transformar cómo funcionan las empresas o cómo se construye la tecnología, pero que no tiene nada que ver con la "inteligencia general". b) se ha saturado tanto que casi ninguna persona la define igual ni se pone de acuerdo en los plazos (ya sea que ya la hayamos alcanzado o que falten 30 años). Por eso cada entrada de blog sobre AGI tiene que crear su propia definición local para poder avanzar. En su mayoría suscribo la visión de @random_walker sobre por qué la "inteligencia" se usa siempre de forma casi incoherente. c) Lo más importante, evoca miedo—relacionado con el uso histórico en la ciencia ficción y la filosofía (piensa en 2001, Her, cualquier cosa que invoque la singularidad) que no tiene nada que ver con el árbol tecnológico en el que realmente estamos. Hace que cada discusión sobre IA sea increíblemente fácil de antropomorfizar y desviarse hacia hipótesis. Puede que necesitemos un término diferente para lo que intentamos construir al final de todo esto y lo que significa para los negocios y la sociedad.