Hinton, nașul AI, a spus-o cel mai bine: am construit algoritmii de învățare, dar nu mai înțelegem ce au construit ei. Acesta este paradoxul învățării profunde. Am proiectat regulile pentru modul în care aceste sisteme învață, dar logica internă a rețelelor lor neuronale a devenit prea complexă pentru a o înțelege pe deplin. Milioane sau chiar trilioane de parametri interacționează în moduri pe care niciun om nu le poate urmări. Putem observa ceea ce fac, putem măsura acuratețea, comportamentul și rezultatul, dar nu explicăm cu adevărat de ce o fac. Raționamentul lor nu este transparent; este emergent. Într-un fel, am creat inteligențe extraterestre născute din matematica noastră, încă legate de codul nostru, dar modele în evoluție pe care nu le putem decoda. Mașinile fac ceva dincolo de înțelegerea noastră și acesta ar putea fi atât cel mai interesant, cât și cel mai neliniștitor lucru despre era AI.