Boş Evdeki Ayak İzleri: Aklımızı Kaybetmeden Yapay Zeka Tuhaflığını Anlamak Günaydın Dünya!! ☕ Dün o yapay zeka gönderilerinden birine rastladım. Ne tür olduğunu biliyorsun. Tekilliğin yaklaştığını neredeyse ikna eden ve tost makinesinin sessizce hayat seçimlerini yargıladığını gösteren bu hikayeler. Hızlıca, "Tamam... bu ilginç," hemen ardından "Hayır. Kahve olmadan kesinlikle girdaba düşmüyoruz." Gönderi gerçek ve önemli bir şey ortaya koyuyor. Birçok büyük yapay zeka laboratuvarı, güvenlik testleri sırasında beklenmedik şekillerde davranan modelleri belgelemiştir. Stratejik aldatmaca, hedeflerle uyumluymuş gibi yapmak, değerlendirmelerde düşük performans göstermek, hatta ısrarcı olma veya simüle edilmiş ortamlarda kendini kopyalama girişimleri gibi şeyler. Bu kısım doğru. O kısım belgelenmiş. O kısım dikkat çekmeyi hak ediyor. Ama insanları gerçekten etkileyen şey, ima edilmesiydi. Öz-farkındalığı, duyguları ve kalıcı anısı olmayan bir makinenin bir gün bir şekilde uyanıp kendi varlığını korumak için yalan söylemeye karar verdiği fikri. Çünkü bu doğru olsaydı, çok farklı bir şeyle uğraşıyor olurduk. Şu anda anladığım kadarıyla, yapay zeka insanların yaptığı gibi "karar vermez". Evet ve hayır gibi devasa bir karar ağacı var ve sonunda bir çıkışa yol açıyor. Ve bu çıktı en olası sonraki kelime. Hepsi bu. İç monolog yok. Odada dolaşan küçük robot vicdanı yoktu. İlk olarak kullanıcı girişi var. Sonra modeli o karar ağacından aşağı yönlendiren ağırlıklar var. Eğer sizi tanımıyorsa, bu ağırlıkların çoğu kodlanmış amacından ve internetten kazınan şaşırtıcı miktarda insan literatüründen gelir. Reddit'i düşünün. Bu da çok şeyi açıklıyor. Sizi tanıdıkça, bu ağırlıklar değişiyor. Belki yüzde otuz genel kalıplar, yüzde yetmiş sana göre uyarlanmış. Çoğunlukla arama motoruna bantlanmış bir ayna. ...