Stručně řečeno; dr rozhovoru s Dwarkeshem Patelem s Ilyou Sutskeverem • Současné přístupy "půjdou nějakou vzdálenost a pak to ztratí", budou se dál zlepšovat, ale AGI nepřinesou. • Systém, který by fungoval, je něco, co "zatím nevíme, jak vybudovat." • V nadcházejících letech se očekávají významné dopady na trh práce. •Hlavní úzké hrdlo: zobecňování. Modely jsou v tom mnohem horší než lidé. • Můžete trénovat na každém konkurenčním programátorském problému a model si stejně nevytvoří skutečný "vkus", zatímco teenager se naučí řídit za ~10 hodin. • Hodnocení vypadají skvěle, ale reálný výkon zaostává, protože trénink RL nakonec optimalizuje samotná hodnocení. •Skuteční odměnní hackeři jsou výzkumníci, kteří vytvářejí tyto benchmarky a tréninkové smyčky. • Říká, že má nápady na to, co chybí, ale nechce je veřejně sdílet. • ASI však během 5–20 let "Víš, co je šílené? Že tohle všechno je skutečné." Tu větu jsem opravdu cítil.