När det gäller din poäng om ekonomi kontra teknik-synen på arbetsförskjutning, @sebkrier jag återigen att de viktigaste punkterna ligger vid den försummade skärningspunkten: Turingtest-liknande ambitioner som vanliga AI-diskursbenchmarks riktar mot teknik i den minst produktiva riktningen möjligt

eftersom omfattande ekonomilitteratur visar att det finns stora hyror kopplade till anställning, så även om det är ren vinst att göra saker allt bättre, men lite under mänsklig kapacitet, och att förbättra områden där man redan presterar bättre än människor (MASSOR av områden långt innan GenAI)

När man överskrider mänsklig förmåga i en uppgift finns det stora kompenserande kostnader för hyresomfördelning. Så vi bör benchmarka till ALLT ANNAT ÄN att försöka klara Turingtestet i ett ökande antal uppgifter.

Och i den mån vi gör det är det avgörande att processen är balanserad mellan arbete och kapital, eftersom det annars blir rent-seeking snarare än produktivitetsförbättring.

Självklart, detta är förenklat, eftersom det inte finns någon verklig nivå av mänsklig förmåga och det som verkligen spelar roll är någon form av kvalitets- och kostnadsjusterad jämförelse, men detta är faktiskt en anledning till att Turingtestet inte är alls så väldefinierat som det påstår sig vara.

Men i en förenklad modell där den faktiskt är väl definierad (det finns en enda mänsklig nivå som kan mätas objektivt och kostnader kan göras perfekt jämförbara), skulle det vara precis det man bör undvika... Lokalt minimikrav behandlas som ett lokalt max.

@sebkrier Låt mig kalla "Turing-liknande mål" de som bygger på att modellen överträffar den mänskliga nivån vid ett växande antal uppgifter. "Anti-Turing"-metoder är de som förbättras i alla andra delar av området: att förbättra färdigheter under mänsklig nivå eller över mänsklig nivå

@sebkrier Det finns många, många faktorer som bör påverka var man ska investera, inklusive input-output-funktionen för forskningsinvesteringar, vilka färdigheter som finns i hur stor efterfrågan osv.

@sebkrier Men i den mån det finns något ekonomiskt analys har att tillägga, skulle jag säga att det är det: i den mån kapitalet styr innovation, är det den mest negativa externalitetsplatsen att investera i (den där kapitaldriven analys sannolikt kommer att överträffa oss)

@sebkrier är Turing-typ av riktmärken.

@sebkrier förresten skulle vara precis tvärtom för politik/arbete: de skulle underinvestera i att klara Turingtestet

@sebkrier Kanske lite skämtsamt är det därför mitt främsta råd till en AGI-policyansvarig är: Gör inte (eller snarare skattegörande) AGI borde vara vår policy.