Doom Debate cu @VitalikButerin a dispărut: Va proteja "d/acc" omenirea de inteligența artificială superinteligentă? Vitalik este atât un tehno-optimist și un constructor înrăit, cât și cineva dispus să ia în considerare în mod serios mecanismele de reglementare și coordonare AI. El a inventat termenul "d/acc'" – accelerare defensivă, descentralizată – ca o cale de mijloc între accelerarea AI necritică și scenariile de pauză totală. Dezbatem tratabilitatea alinierii AI, dacă abordări precum d/acc ar funcționa cu adevărat atunci când sosește superinteligența și de ce crede că o lume pluralistă de IA concurente ar putea fi mai sigură decât o singură superinteligență aliniată. Esența dezacordului nostru este că cred că ne îndreptăm spre un scenariu "plante vs. animale" în care IA va funcționa pur și simplu pe intervale de timp pe care nu le putem egala, în timp ce Vitalik crede că putem menține agenția prin combinația potrivită de tehnologii defensive și design instituțional. În cele din urmă, abordăm discursul în sine – îi cer lui Vitalik să demonteze atacurile obișnuite ad hominem împotriva condamnatorilor AI, de la "este doar o poziție marginală" la "niciun constructor real nu crede în doom". Răspunsurile sale au greutate, având în vedere credibilitatea sa atât ca antreprenor de succes, cât și ca cineva care și-a menținut onestitatea intelectuală de-a lungul carierei sale. Mulțumiri lui Vitalik pentru o dezbatere de bună credință!