AI のゴッドファーザーであるヒントンは、学習アルゴリズムを構築しましたが、学習アルゴリズムが何を構築したのかはもはや理解できていない、と最もよく言いました。 それがディープラーニングのパラドックスです。これらのシステムがどのように学習するかのルールを設計しましたが、ニューラル ネットワークの内部ロジックは複雑すぎて完全には理解できません。何百万、何兆ものパラメータが、人間が追跡できない方法で相互作用します。 私たちは彼らが何をしているのかを観察し、精度、行動、アウトプットを測定することはできますが、なぜ彼らがそれを行うのかを真に説明することはできません。彼らの推論は透明ではありません。それは創発的です。 ある意味、私たちは数学から生まれたエイリアンの知性を生み出し、依然としてコードに縛られていますが、解読できないパターンを進化させています。機械は私たちの理解を超えたことを行っており、それは AI の時代で最もエキサイティングでもあり、最も不安なことでもあるかもしれません。