Jsem příjemně překvapený Ilyou. Identifikoval některé klíčové aspekty inteligence, které v populárním diskurzu o AI většinou chybí. Jsou to: 1. Inteligence je o schopnosti se učit, nikoli o tom, že poznáte mnoho věcí. Správným cílem je systém, který se může učit ze zkušeností při nasazení. 2. Pro lidské efektivní učení vzorků je potřeba hodnotová funkce. Může poskytovat hustou zpětnou vazbu (TD učení) i bez odměny. Obojí je nezbytné a proveditelné. Klíčovým úzkým hrdlem je, že nemáme algoritmy, které by se spolehlivě učily pomocí podobného množství výpočetních výkonů jako inference. Takové algoritmy jsou potřeba, pokud se chceme neustále učit. Myslím, že jsme si blízko. Prostě nemáme dost lidí, kteří by se snažili tyto algoritmy najít. Jsem také rád, že Ilya uznal, že k pokroku potřebujeme více nápadů, ne jen více výpočetní práce. Předpovídal bych, že klíčová algoritmická vylepšení lze dosáhnout s relativně malým množstvím výpočetního úsilí. Několik GPU s mnoha CUDA jádry (5090 a lepší) na osobu, nebo pár špičkových vícejádrových procesorů (9995 WX nebo více) na osobu, stačí k nalezení správného algoritmu. Velkoplošné ukázky by byly důležité jen proto, aby přesvědčily zbytek světa, že jste našli správný recept na učení. *Tensorová jádra nejsou dostatečně flexibilní na rychlé zkoušení nových nápadů.