Ada hal lucu di mana pendidikan ekonomi secara paradoks membuat orang lebih bodoh dalam memikirkan AI masa depan. Buku teks Econ mengajarkan konsep & bingkai yang bagus untuk banyak hal, tetapi kontraproduktif untuk memikirkan AGI. Berikut adalah 4 contohnya. Pos panjang: BAGIAN PERTAMA dari anti-pedagogi Econ bersembunyi dalam kata-kata "kerja" & "modal". Kata-kata ini menggabungkan perbedaan dangkal (manusia berdarah daging vs bukan) dengan sekumpulan asumsi dan intuisi yang tidak terucapkan, yang semuanya akan dipatahkan oleh Kecerdasan Umum Buatan (AGI). Yang saya maksud dengan "AGI" di sini "sekumpulan chip, algoritma, listrik, dan / atau robot yang dioperasikan dari jarak jauh yang dapat secara mandiri melakukan hal-hal yang dapat dilakukan oleh manusia dewasa yang ambisius—mendirikan dan menjalankan perusahaan baru, R&D, mempelajari keterampilan baru, menggunakan robot yang dioperasikan secara sewenang-wenang setelah sedikit latihan, dll." Ya saya tahu, ini belum ada! (Meskipun hype sebaliknya.) Cobalah meminta LLM untuk menulis rencana bisnis secara mandiri, mendirikan perusahaan, lalu menjalankan dan mengembangkannya selama bertahun-tahun sebagai CEO. Wakakak! Itu akan menabrak dan terbakar! Tapi itu adalah batasan LLM saat ini, bukan "semua AI selamanya". AI yang dapat menyelesaikan tugas itu, dan lebih banyak lagi, jelas mungkin — otak dan tubuh manusia dan masyarakat tidak didukung oleh sihir magis selamanya di luar jangkauan sains. Saya mengharapkan AI seperti itu dalam hidup saya, baik atau buruk. (Mungkin "lebih buruk", lihat di bawah.) Sekarang, apakah AGI semacam ini "tenaga kerja" atau "modal"? Yah, itu bukan manusia berdarah daging. Tapi ini lebih seperti "tenaga kerja" daripada "modal" dalam banyak hal lain: • Modal tidak bisa begitu saja dan melakukan sesuatu dengan sendirinya? AGI bisa. • Teknologi baru membutuhkan waktu lama untuk diintegrasikan ke dalam perekonomian? Tanyakan pada diri sendiri: bagaimana manusia imigran yang sangat terampil, berpengalaman, dan wirausaha berhasil segera berintegrasi ke dalam perekonomian? Setelah Anda menjawab pertanyaan itu, perhatikan bahwa AGI juga dapat melakukan hal-hal tersebut. • Modal duduk diam jika tidak ada manusia yang mau dan mampu menggunakannya? Yah, manusia imigran itu tidak duduk-duduk diam. Dan AGI juga tidak akan melakukannya. • Modal tidak dapat mengadvokasi hak-hak politik, atau melancarkan kudeta? Sumur... Bagaimanapun, orang melihat film robot sci-fi, dan mereka mengerti ini! Kemudian mereka mengambil kursus ekonomi, dan itu membuat mereka lebih bodoh. (Ya saya tahu, #NotAllEconomists dll.) BAGIAN KEDUA dari anti-pedagogi Econ menanamkan asumsi default bahwa pasar mungkin untuk menyeimbangkan. Tetapi pasar untuk AGI tidak bisa: AGI menggabungkan properti pasar tenaga kerja dengan properti pasar produk, di mana properti tersebut saling eksklusif. Properti-properti tersebut adalah: • (A) "TIDAK ADA GUMPALAN TENAGA KERJA": Jika populasi manusia naik, upah turun dalam jangka pendek, karena kurva permintaan tenaga kerja menurun. Tetapi dalam jangka panjang, orang menemukan hal-hal produktif baru untuk dilakukan—kurva permintaan bergerak dengan benar. Jika ada, nilai tenaga kerja naik, bukan turun, dengan populasi! Misalnya kota-kota padat adalah mesin pertumbuhan! • (B) "KURVA PENGALAMAN": Jika permintaan untuk suatu produk meningkat, ada kenaikan harga dalam jangka pendek, karena kurva penawaran miring naik. Tetapi dalam jangka panjang, orang meningkatkan manufaktur—kurva penawaran bergerak ke kanan. Jika ada, harga TURUN, bukan naik, dengan permintaan, berkat skala ekonomi dan R&D. KUIS: Mempertimbangkan (A) & (B), berapa harga keseimbangan bundel AGI ini (chip, algoritma, listrik, robot yang dioperasikan dari tele, dll.)? … Pertanyaan trik! Tidak ada keseimbangan. Dua prinsip kita, (A) "tidak ada gumpalan kerja" dan (B) "kurva pengalaman", membuat keseimbangan tidak mungkin: • Jika harga rendah, (A) mengatakan kurva permintaan berpacu ke kanan—tidak ada gumpalan tenaga kerja, oleh karena itu ada keuntungan besar yang akan dibuat oleh AGI wirausaha terampil yang menemukan hal-hal produktif baru untuk dilakukan. • Jika harga tinggi, (B) mengatakan kurva penawaran berpacu ke kanan—ada keuntungan besar yang dapat diperoleh dengan meningkatkan manufaktur AGI. • Jika harga berada di antaranya, maka kurva permintaan dan kurva penawaran KEDUANYA berpacu ke kanan! Ini bukan modal atau tenaga kerja seperti yang kita kenal. Alih-alih pasar untuk AGI menyeimbangkan, itu membentuk loop umpan balik positif / mesin gerak abadi yang meledak secara eksponensial. Apakah itu terdengar tidak masuk akal? Ada preseden: manusia! Dunia manusia, secara keseluruhan, sudah menjadi loop umpan balik positif / mesin gerak abadi jenis ini! Manusia meningkatkan diri mereka dari beberapa ribu hominin menjadi 8 miliar orang yang menjalankan ekonomi $ 80 triliun. Bagaimana? Ini bukan mesin gerak abadi. Sebaliknya, ini adalah mesin yang menarik dari sumur "peluang ekonomi yang belum dieksploitasi". Tapi ingat "No Lump of Labor": sumur peluang ekonomi yang belum dieksploitasi ~sangat dalam. Kami belum kehabisan perusahaan yang mungkin untuk didirikan. Belum ada yang membuat kawanan Dyson. Hanya ada begitu banyak manusia untuk mendirikan perusahaan dan mengeksploitasi peluang baru. Tetapi lingkaran umpan balik positif AGI tidak memiliki batasan seperti itu. Waktu penggandaan memang bisa singkat: Bayangkan sebuah pabrik otonom yang dapat membangun pabrik otonom yang identik, yang kemudian membangun dua lagi, dll., hanya menggunakan bahan input dan sinar matahari yang tersedia secara luas. Buku teks ekonomi tidak membicarakan itu. Tapi buku teks biologi melakukannya! Cyanobacterium adalah pabrik seperti itu, dan dapat menggandakan dirinya dalam sehari (≈ persen 😛 googol tingkat pertumbuhan tahunan ). Bagaimanapun, kita tidak tahu seberapa eksplosif lingkaran umpan balik positif dari AGI membangun AGI, tetapi saya berharap itu akan menjadi tahun cahaya di luar apa pun dalam sejarah ekonomi. BAGIAN KETIGA dari anti-pedagogi Econ adalah promosi pertumbuhan PDB sebagai proksi untuk kemajuan dan perubahan. Sebaliknya, adalah mungkin bagi dunia untuk berubah menjadi tanah fiksi ilmiah liar di luar semua pengakuan atau pemahaman setiap bulan, bulan demi bulan, tanpa "pertumbuhan PDB" yang benar-benar setinggi itu. PDB adalah metrik yang lucu, dan terutama buruk dalam menggambarkan dampak revolusi teknologi transformatif. (Misalnya, jika beberapa teknologi baru tidak mahal, dan sementara itu sektor ekonomi lainnya tetap mahal karena pembatasan peraturan, maka teknologi baru mungkin tidak banyak berdampak pada PDB, tidak peduli seberapa besar hal itu menjungkirbalikkan dunia.) Maksud saya, tentu saja kita dapat berdebat tentang PDB, tetapi kita tidak boleh memperlakukannya sebagai pertempuran proksi tentang apakah AGI akan menjadi masalah besar atau tidak. Terakhir dan yang paling penting, BAGIAN KEEMPAT dari anti-pedagogi Econ adalah fokus pada "perdagangan yang saling menguntungkan" daripada "membunuh orang dan mengambil barang-barang mereka". Econ 101 membuktikan bahwa perdagangan secara egois lebih baik daripada isolasi. Tetapi terkadang "membunuh orang dan mengambil barang-barang mereka" adalah yang terbaik secara egois dari semuanya. Ketika kita berbicara tentang AGI, kita berbicara tentang menciptakan spesies cerdas baru di Bumi, yang pada akhirnya akan lebih cepat, lebih cerdas, terkoordinasi lebih baik, dan lebih banyak daripada manusia. Orang normal, orang yang telah menonton film fiksi ilmiah tentang robot dan alien, orang yang telah mempelajari sejarah kolonialisme dan perbudakan, akan segera mengajukan banyak pertanyaan masuk akal di sini. "Apa motif mereka?" "Siapa yang akan memiliki kekuatan keras?" "Jika mereka tampak ramah dan kooperatif sejak awal, mungkinkah mereka menusuk kita dari belakang ketika mereka menjadi lebih kuat?" Ini adalah pertanyaan yang sangat bagus! Kita pasti harus mengajukan pertanyaan-pertanyaan ini! (FWIW, ini adalah bidang keahlian saya, dan saya sangat pesimis.) … Dan kemudian orang-orang normal itu mengambil kelas ekonomi, dan akhirnya menjadi lebih bodoh. Mereka berhenti mengajukan pertanyaan-pertanyaan itu. Sebaliknya, mereka "belajar" bahwa AGI adalah "modal", seperti mesin cetak injeksi. Mesin cetak injeksi tidak akan memusnahkan manusia dan menjalankan dunia sendiri. Jadi kami baik-baik saja. Wakakak.