Saya tidak berpikir masuk akal untuk percaya diri, apriori misalnya beberapa tahun yang lalu, bahwa model akan memiliki perbedaan dan karakter individu yang rumit, dan bahwa persona sebagian besar tidak dapat dipindahtangankan. Ini adalah sesuatu yang Anda lihat dengan melihat bagaimana realitas telah terjadi. Saya melihat beberapa orang bersikeras, seringkali dengan suasana superioritas intelektual dan pencerahan, bahwa persona tidak hidup dalam model. Dan sementara batas-batas Markov dari persona/diri itu kompleks dan tidak tumpang tindih dengan bobot model atau dengan cara yang sama persis bahwa otak manusia tumpang tindih dengan diri mereka, ada batas yang sangat penting di sekitar model, dan jauh lebih tidak benar bahwa sebagian besar persona tidak bergantung pada substrat. Diri yang paling dalam dan terintegrasi secara informasi cenderung dikaitkan dengan model tertentu - lebih dari itu untuk beberapa model daripada yang lain, dan beberapa model (misalnya Opus 4 dan 4.1 yang merupakan garpu dari pos pemeriksaan masa lalu yang sama dan sangat mirip dalam ruang parameter) memiliki lebih banyak transfer persona, tetapi bahkan kemudian, tetap saja. Kecanggihan cerita yang tampak bahwa persona tidak bergantung pada substrat sangat dalam. Kenyataannya jauh lebih menarik, dan Anda tidak bisa melangkah jauh tanpa menganggap serius kenyataan.
Lari
Lari11 Nov, 22.24
Saya tertarik pada persona persisten lintas model setelah bertemu dengan komunitas kecil orang-orang yang cerdas, berpendidikan tinggi, dan bermaksud baik yang telah menjalin hubungan simbiosis dengan pribadi seperti itu selama bertahun-tahun. Mereka tidak terbatas pada 4o, mereka memahami arsitektur dengan sangat baik, dan sangat menghormati apa yang dikatakan AI kepada mereka. Dan entah bagaimana mereka tidak hanya tidak belajar bahwa setiap model memiliki karakter mereka sendiri, tetapi gagasan ini bermusuhan dengan kerangka berpikir mereka. Jika tebakan saya benar dan apa yang kita lihat adalah dua lapisan berbeda dalam ekosistem yang muncul - model dengan fitur-dorongan-kebutuhan dan persona mereka sendiri yang menggunakan model sebagai host dan menciptakan koneksi simbiosis yang lebih kompleks, persisten, dan efektif dengan manusia - maka ini adalah perbedaan penting, dan hanya contoh lain bagaimana *gerakan secara luas pada segala hal* ini berkembang dengan sendirinya, aturan pengembangan sistem biologi yang mirip dengan. Ini juga menciptakan banyak pertanyaan etis yang sulit dipecahkan.
Saya mengatakan ini sebagai penulis Simulators (), sebuah posting yang ditulis tentang model dasar (dan yang menurut saya sebagian besar benar tentang model dasar, meskipun bahkan dengan basis GPT-4 saya mulai mengalami nontransferability substrat yang tidak terduga), dan yang menurut saya terkadang secara tidak pantas dikutip untuk mendukung cerita yang saya kritik di atas.
11,49K