قال هينتون ، الأب الروحي الذكاء الاصطناعي ، ذلك بشكل أفضل: لقد بنينا خوارزميات التعلم ، لكننا لم نعد نفهم ما قاموا ببنائه. هذه هي مفارقة التعلم العميق. لقد صممنا القواعد الخاصة بكيفية تعلم هذه الأنظمة ، ومع ذلك أصبح المنطق الداخلي لشبكاتها العصبية معقدا للغاية بحيث لا يمكننا فهمه بالكامل. تتفاعل ملايين أو حتى تريليونات المعلمات بطرق لا يمكن لأي إنسان تتبعها. يمكننا ملاحظة ما يفعلونه ، ويمكننا قياس الدقة والسلوك والمخرجات ولكن لا نشرح حقا سبب قيامهم بذلك. تفكيرهم ليس شفافا. إنه ناشئ. بمعنى ما ، لقد أنشأنا ذكاءات غريبة ولدت من رياضياتنا ، ولا تزال مرتبطة بالتعليمات البرمجية الخاصة بنا ولكننا تتطور أنماطا لا يمكننا فك تشفيرها. تقوم الآلات بشيء يتجاوز فهمنا وقد يكون هذا هو الشيء الأكثر إثارة والأكثر إثارة في عصر الذكاء الاصطناعي.