Chamath: Kaksi termiä, joihin tekoälyssä kannattaa kiinnittää huomiota, ovat Prefill ja Decode "On kaksi termiä, joista uskon, että tulet kuulemaan paljon seuraavien vuosien aikana." "Ensimmäinen lukukausi on esitäyttö, ja seuraava on dekoodaus." "Esitäyttö ja dekoodaus ovat kaksi hyvin erilaista tapaa sille, miten mallit ajattelevat, ja miten malli käy läpi prosessin vastatakseen kysymykseen, jonka sille esität." "Ja kun lähetät kehotteen tekoälylle, tapahtuu niin, että malli käsittelee sen. Tätä kutsutaan lukuvaiheeksi tai esitäytöksi." "Se lukee koko kehotteesi kerralla. Sitten se tekee paljon laskuja, laskee kaikki nämä suhteet sanojen välillä ja tallentaa ne väliaikaiseen muistiin." "Ongelma on, että tämä on todella laskennallinen. Joten se vaatii valtavaa raakaa voimaa. Ja Nvidia GPU:t ovat tässä aivan huippuja." "Ja heidän arkkitehtuurinsa on suunniteltu massiiviseen rinnakkaiskäsittelyyn, mikä tekee niistä todella erinomaisia näiden pitkien kehotteiden sulattamisessa." "Joten ongelma vain kasvaa koko ajan, Nvidia hallitsee täysin." "Mutta seuraava vaihe, tämä kriittinen vaihe, dekoodausvaihe, on kirjoitusvaihe, eikö niin?" "Joten malli alkaa tuottaa vastausta, kysyt sille kysymyksen ja sen vastauksen, yksi token kerrallaan." "Ja sitten valitakseen seuraavan merkin valitakseen seuraavan sanan, sen täytyy katsoa taaksepäin kaikkeen, mitä se on jo sanonut, ettei se näe hallusinaatioita." "Ongelma on, että tämä on uskomattoman rajoitettu muistikaistanleveydelle." "Ja arkkitehtuurissamme, kauan sitten, teimme nämä suunnittelupäätökset alusta alkaen." "Joten teimme hyvin erilaisen arkkitehtonisen lähestymistavan, hyvin konservatiivisen prosessiteknologian. Emme venyttäneet fysiikan rajoja." "Ja käytimme paljon niin kutsuttua SRAM-järjestelmää. Joten muisti sirulle, jotta voisimme tehdä tämän dekoodauksen yhtä hyvin tai paremmin kuin kaikki muut." "Ja nyt, kun nämä kaksi asiaa yhdistetään, uskon, että se luo valtavan kiihdytyksen koko infrastruktuurikerroksen halvemmaksi ja arvokkaammaksi, ja epäilen, että silloin kehittäjien vetovoima kasvaa, paljon enemmän sovelluksia rakennetaan, miljardeja ja miljardeja ihmisiä käyttää sitä."

Kävin läpi tiedot. Taaskin. Tein kartan. Taaskin. Kuva on nyt vielä PUHTAAMPI. Osavaltiot, joissa ei vaadita äänestäjän henkilöllisyystodistusta, tarjoavat 16 kertaa todennäköisemmin sosiaalietuuksia laittomille maahanmuuttajille kuin henkilöllisyystodistusta vaativat osavaltiot (67 % vs 4 %, s<0,0001). Demokraatit tuovat maahan ja maksavat laittomille maahanmuuttajille äänistä. Yksityiskohdat👇