Tiivistelmä; Dwarkesh Patelin haastattelu Ilya Sutskeverin kanssa •Nykyiset lähestymistavat "menevät jonkin matkan ja sitten Peter pois", ne jatkavat kehittymistään, mutta eivät tuota AGI:tä. •Sellainen järjestelmä toimisi, on jotain, mitä "emme vielä osaa rakentaa." • Merkittäviä vaikutuksia työmarkkinoihin odotetaan tulevina vuosina. •Pääpullonkaula: yleistys. Mallit ovat siinä paljon heikompia kuin ihmiset. •Voit harjoitella kaikkia kilpailullisia ohjelmointiongelmia, eikä malli silti kehitä todellista "makua", kun taas teini oppii ajamaan ~10 tunnissa. •Arviointipisteet näyttävät hyviltä, mutta todellinen suorituskyky viivästyy, koska RL-harjoittelu optimoi itse arvioille. •Todelliset palkkiohakkerit ovat tutkijoita, jotka laativat näitä vertailuarvoja ja harjoitussilmukoita. •Hän sanoo, että hänellä on ideoita siitä, mitä puuttuu, mutta ei aio jakaa niitä julkisesti. • ASI kuitenkin 5–20 vuoden sisällä "Tiedätkö mikä on hullua? Että kaikki tämä on totta" Tunsin tuon lauseen todella.