Хінтон, хрещений батько штучного інтелекту, сказав це найкраще: ми створили алгоритми навчання, але більше не розуміємо, що вони створили. У цьому і полягає парадокс глибокого навчання. Ми розробили правила того, як ці системи навчаються, але внутрішня логіка їхніх нейронних мереж стала занадто складною, щоб ми могли повністю її зрозуміти. Мільйони або навіть трильйони параметрів взаємодіють таким чином, що жодна людина не може відстежити. Ми можемо спостерігати за тим, що вони роблять, ми можемо вимірювати точність, поведінку та результати, але не пояснювати насправді, чому вони це роблять. Їхні міркування не є прозорими; Це емерджентність. У певному сенсі ми створили інопланетні розуми, народжені нашою математикою, які все ще прив'язані до нашого коду, але еволюціонують шаблони, які ми не можемо розшифрувати. Машини роблять щось, що виходить за межі нашого розуміння, і це може бути як найбільш захоплюючим, так і найбільш тривожним моментом в епоху штучного інтелекту.