Sospecho que la mayor parte del misterio restante de la "interpretabilidad de la IA", y el (en mi opinión) estrechamente relacionado de la interpretabilidad del cerebro, es solo una cuestión de explicar intuitivamente por qué el aprendizaje profundo en un espacio de alta dimensión es tan poderoso. Pero los pesos resultantes son lo que son.