Moderoin keskustelua Dwarkeshin, tohtori Burryn ja John Clarkin (Anthropicista) kesken erimielisyyksistä niiden ihmisten kesken, jotka ovat paremmin perillä tekoälystä, mukaan lukien tuleva vaikutus työllisyyteen, onko se kupla jne. Kiitos Substackille, että tämä onnistui.

Yksi erimielisyys on, missä määrin LLM:t, joihin tämä joukko täysin myöntää voivan kaupallisesti arvokkaita asioita, ovat piikikkäitä ja virhealttiita vaikeasti ennustettavilla tavoilla. Kyllä! Samoin ihmiset. Ja onneksi meillä on eri bugeja.

Jackin nostama seikka on yksi suurimmista ymmärryksen aukoista hyvin perillä olevien ja niiden välillä, jotka tarvitsevat olla hyvin perillä: nykyiset kyvykkyydet ovat perusta eikä katto. Mikä tahansa tuleva järjestelmä saa hyväksyä tai hylätä ne.

Jack kertoo lyhyesti, kuinka LLM:t olivat jyrkkä irtiotto aiemmin suositusta ajatuksesta, että älykkyyttä kehitettäisiin rakentamalla sata tuhatta testialustaa, pisteratkaisut oppivat voittamaan niukasti, ja sitten ??? yleistäminen tarkoittaa älykkyyttä.

Sen sijaan olemme rakentaneet *silmiinpistävän* yleisen työkalun siitä, mikä kiertää yhteen ympäristöön ("laita se huoneeseen jokaisen kirjoitetun dokumentin kanssa") ja sitten se, joka kompastui, on villisti onnistunut, kun sitä käytetään uusiin tehtäviin. Seuraavat vuodet saattavat sisältää testialustan rakentamisen.

Kuten huomasin: koulutimme tekoälyjä pelaamaan StarCraftia. Kaikki tulevat yritykset tähän voivat olettaa, että järjestelmä on lukenut sodankäynnin taidon alkuperäisellä kiinalla, elleivät arkkitehti(t) usko, että tieto heikentää sinua pysäyttämään zergling-hyökkäyksiä.

* Jack Clark, ei John Clark. Anteeksi, kasvoin lukemalla Tom Clancyä. Jonain päivänä he voivat esikatsella twiittejäni, ja iloitsen siitä, kuinka paljon vähemmän munaa kasvoille tapahtuu, kun draftaan mobiililla.