Når det gjelder ditt syn på økonomi vs. teknologi, @sebkrier, mener jeg igjen at de viktigste punktene ligger i det neglisjerte skjæringspunktet: Turingtest-aktige ambisjoner som vanlige AI-diskursmålinger fester for å målrette teknologi i den minst produktive retningen mulig

fordi massiv økonomilitteratur viser at det er store leier knyttet til sysselsetting, så selv om det er ren gevinst å gjøre ting stadig bedre, men litt under menneskelig kapasitet, og å forbedre områder hvor du allerede overgår mennesker (MANGE områder lenge før GenAI)

Når du krysser menneskelig kapasitet i en oppgave, er det noen store utjevnende kostnader for leiefordeling. Så vi bør benchmarke til ALT ANNET ENN å prøve å bestå Turing-testen i et økende spekter av oppgaver.

Og i den grad vi gjør det, er det avgjørende at det er en prosess som er balansert mellom arbeidskraft og kapital, for ellers vil det være rentesøking snarere enn produktivitetsforbedring.

Selvfølgelig er dette forenklet, fordi det ikke finnes ett faktisk nivå av menneskelig evne, og det som faktisk betyr noe er en form for kvalitets- og kostnadsjustert sammenligning, men dette er faktisk en grunn til at Turing-testen ikke er så godt definert som den utgir seg for å være.

Men i en forenklet modell hvor den faktisk er godt definert (det finnes et enkelt menneskelig nivå som kan måles objektivt og kostnadene kan gjøres helt sammenlignbare), ville det være nettopp det man bør unngå... Lokalt minimum behandles som en lokal maksgrense.

@sebkrier La meg kalle «Turing-lignende mål» de som er basert på at modellen overgår menneskelig nivå på et økende spekter av oppgaver. "Anti-Turing"-tilnærminger er de som forbedrer seg i andre deler av rommet: å forbedre ferdigheter under menneskelig nivå eller over menneskelig nivå

@sebkrier Det er mange, mange faktorer som bør påvirke hvor man bør investere, inkludert input-output-funksjonen for forskningsinvestering, hvilke ferdigheter som er i og hvor stor etterspørsel osv.

@sebkrier Men i den grad det er noe økonomisk analyse har å tilføre dette, vil jeg si at det er det: i den grad kapitalen styrer innovasjon, det mest negative eksternalitetsstedet å investere (det stedet hvor kapitaldrevet analyse sannsynligvis vil overgå oss)

@sebkrier er Turing-typen benchmarks.

@sebkrier forresten ville vært helt motsatt for politikk/arbeid: de ville underinvestert i å bestå Turing-testen

@sebkrier Kanskje litt spøkefullt, er dette grunnen til at mitt beste råd til en AGI-policyleder er: Ikke gjør (eller rettere sagt skatteoppgjør) AGI bør være vår policy.