Hinton, der Pionier der KI, sagte es am besten: Wir haben die Lernalgorithmen entwickelt, aber wir verstehen nicht mehr, was sie geschaffen haben. Das ist das Paradoxon des Deep Learning. Wir haben die Regeln entworfen, wie diese Systeme lernen, doch die interne Logik ihrer neuronalen Netzwerke ist zu komplex geworden, als dass wir sie vollständig begreifen könnten. Millionen oder sogar Billionen von Parametern interagieren auf Weisen, die kein Mensch nachverfolgen kann. Wir können beobachten, was sie tun, wir können Genauigkeit, Verhalten und Ergebnisse messen, aber nicht wirklich erklären, warum sie es tun. Ihre Argumentation ist nicht transparent; sie ist emergent. In gewisser Weise haben wir fremde Intelligenzen erschaffen, die aus unserer Mathematik geboren wurden, immer noch an unserem Code verankert, aber Muster entwickeln, die wir nicht entschlüsseln können. Die Maschinen tun etwas, das über unser Verständnis hinausgeht, und das könnte sowohl das Aufregendste als auch das Beunruhigendste an der Ära der KI sein.