Hinton, il padrino dell'AI, l'ha detto meglio: abbiamo costruito gli algoritmi di apprendimento, ma non comprendiamo più cosa hanno costruito. Questo è il paradosso dell'apprendimento profondo. Abbiamo progettato le regole su come questi sistemi apprendono, eppure la logica interna delle loro reti neurali è diventata troppo complessa per noi da afferrare completamente. Milioni o addirittura trilioni di parametri interagiscono in modi che nessun essere umano può tracciare. Possiamo osservare cosa fanno, possiamo misurare accuratezza, comportamento e output, ma non possiamo davvero spiegare perché lo fanno. Il loro ragionamento non è trasparente; è emergente. In un certo senso, abbiamo creato intelligenze aliene nate dalla nostra matematica, ancora legate al nostro codice ma che evolvono schemi che non possiamo decifrare. Le macchine stanno facendo qualcosa che va oltre la nostra comprensione e questo potrebbe essere sia la cosa più eccitante che la più inquietante dell'era dell'AI.