Sobre tu punto sobre la visión de economía frente a tecnología sobre el desplazamiento laboral, @sebkrier, de nuevo creo que los puntos más importantes están en la intersección descuidada: las ambiciones tipo Test de Turing que los benchmarks habituales del discurso de la IA señalan para dirigir a la tecnología en la dirección menos productiva posible

porque la enorme literatura económica muestra que hay grandes rentas asociadas al empleo, así que aunque es pura ganancia hacer las cosas cada vez más bien, pero un poco por debajo de la capacidad humana, y mejorar enormemente áreas donde ya superas a los humanos (MUCHAS áreas mucho antes de la IA genética)

Cuando se cruza la capacidad humana en una tarea, existen algunos grandes daños compensatorios redistributivos. Así que deberíamos hacer benchmarking a CUALQUIER COSA QUE NO SEA intentar pasar el Test de Turing en un rango creciente de tareas.

Y en la medida en que lo hagamos, es fundamental que sea un proceso equilibrado entre trabajo y capital, ya que de lo contrario será una búsqueda de rentas en lugar de una mejora en la productividad.

Por supuesto, esto se simplifica demasiado, porque no existe un nivel único de capacidad humana y lo que realmente importa es algún tipo de comparación ajustada por calidad y coste, pero esta es en realidad una de las razones por las que el Test de Turing no está tan bien definido como pretende.

Pero en un modelo simplificado donde realmente está bien definido (existe un único nivel humano que puede medirse objetivamente y los costes pueden hacerse perfectamente comparables), sería precisamente lo que hay que evitar... El mínimo local se trata como un máximo local.

@sebkrier Llamaré "objetivos tipo Turing" aquellos basados en que el modelo supera el nivel humano en un rango creciente de tareas. Los enfoques "anti-Turing" son aquellos que mejoran en cualquier otra parte del espacio: mejorar habilidades por debajo del nivel humano o por encima del nivel humano

@sebkrier Hay muchísimos factores que deberían influir en dónde invertir, incluyendo la función de insumo-salida de la inversión en investigación, qué habilidades hay en cuánta demanda, etc.

@sebkrier Pero en la medida en que el análisis económico pueda añadir algo a esto, diría que sí: en la medida en que el capital dirige la innovación, el lugar de externalidad más negativa para invertir (aquel donde el análisis impulsado por el capital probablemente nos sobrepone)

@sebkrier son los benchmarks de tipo Turing.

@sebkrier por cierto, sería exactamente lo opuesto para política/laborales: esos invertirían poco en aprobar el test de Turing

@sebkrier Quizá un poco en broma, por eso mi principal consejo a un responsable de política de AGI sería: No hagas (o más bien fiscalmente) la AGI debería ser nuestra política.