Är vi på väg mot en stabil dystopi? Jag har funderat på hur AI kommer att forma samhället och ett särskilt scenario verkar vara ett högsannolikt utfall för mig. Så här kan det utvecklas: • AI automatiserar mer och mer av mänskligt arbete • Avkastningen från denna automatisering flödar tillbaka till kapitalinnehavarna, vilket gör dem rikare • När massornas inkomster sjunker ignorerar/avskaffar staten inkomstskatt utan beskattar istället företagsinkomst / förmögenhet för dess behov • Rich isolerar sig (som de gör) och använder AI-drivna drönare/robotar för att skydda sig själva • Detta tar all makt från massorna – > regeringar bryr sig mindre om massorna när deras bidrag till skatterna minskar och de kan inte ens göra uppror eftersom de står mot AI-säkerhetsstyrkor • En minimal form av UBI ges till massorna i moralens namn • All framtida social rörlighet upphör, och nuvarande maktstrukturer fryser för alltid Kort sagt, de mäktiga och rika skapar ett parallellt samhälle och social rörlighet upphör eftersom kapitalägarna/makthavarna kontrollerar AI:n som utför det ekonomiska arbetet (vilket hindrar någon annan från att klättra upp). Man kan hävda att detta har pågått gradvis, men idag har massorna fortfarande makt tack vare sitt arbetsinsats och sin förmåga att fysiskt göra uppror mot eliten. Men AI har potential att förändra den maktbalansen och det verkar tyvärr vara dit vi är på väg. /syndikerat

Observera att detta scenario troligen är standard, men inte fastfruset. Jag tror att mänskligheten fortfarande har en chans att inte ge upp makten till eliten och/eller AI:n. En utväg är att sprida AI tillräckligt i den öppna källkoden så att tillgången till den är demokratisk (men skalningslagar antyder att större modeller alltid kan övermanna mindre!). En annan är förstås att stoppa AI-utveckling (men jag tror inte att det kommer att hända; människor är för nyfikna för att stoppa). Vad tycker du om det här scenariot? Troligt? Hur säkerställer vi att detta inte händer?