Hinton，AI 的教父，說得最好：我們建立了學習算法，但我們不再理解它們所建立的東西。 這就是深度學習的悖論。我們設計了這些系統學習的規則，但它們神經網絡的內部邏輯已變得過於複雜，以至於我們無法完全掌握。數百萬甚至數兆個參數以人類無法追蹤的方式相互作用。 我們可以觀察它們的行為，我們可以測量準確性、行為和輸出，但無法真正解釋它們為什麼這樣做。它們的推理並不透明；它是自發的。 在某種意義上，我們創造了源自我們數學的外星智慧，仍然與我們的代碼相連，但演變出我們無法解碼的模式。這些機器正在做一些超出我們理解範疇的事情，這可能是 AI 時代中最令人興奮和最令人不安的事情。