Hinton, duchovní otec umělé inteligence, to řekl nejlépe: vytvořili jsme učící se algoritmy, ale už nerozumíme tomu, co vytvořily. To je paradox hlubokého učení. Navrhli jsme pravidla pro to, jak se tyto systémy učí, ale vnitřní logika jejich neuronových sítí se stala příliš složitou na to, abychom ji plně pochopili. Miliony nebo dokonce biliony parametrů interagují způsoby, které žádný člověk nemůže vystopovat. Můžeme pozorovat, co dělají, můžeme měřit přesnost, chování a výstupy, ale nemůžeme skutečně vysvětlit, proč to dělají. Jejich argumentace není transparentní; je to emergentní. V jistém smyslu jsme vytvořili mimozemské inteligence, které se zrodily z naší matematiky, stále jsou připoutány k našemu kódu, ale vyvíjejí se vzorce, které nedokážeme dekódovat. Stroje dělají něco, co je mimo naše chápání, a to může být nejvíce vzrušující a zároveň nejvíce znepokojující věc ve věku umělé inteligence.