Hinton, gudfaren til AI, sa det best: vi bygde læringsalgoritmene, men vi forstår ikke lenger hva de har bygget. Det er paradokset med dyp læring. Vi utformet reglene for hvordan disse systemene lærer, men den interne logikken i deres nevrale nettverk har blitt for kompleks til at vi fullt ut kan forstå. Millioner eller til og med billioner av parametere samhandler på måter ingen mennesker kan spore. Vi kan observere hva de gjør, vi kan måle nøyaktighet, atferd og produksjon, men ikke virkelig forklare hvorfor de gjør det. Resonnementet deres er ikke gjennomsiktig; det er emergent. På en måte har vi skapt utenomjordiske intelligenser født fra matematikken vår, fortsatt bundet til koden vår, men utvikler mønstre vi ikke kan dekode. Maskinene gjør noe utenfor vår fatteevne, og det kan være både det mest spennende og det mest foruroligende med AI-alderen.