Jadi kami memiliki model agen yang kuat seperti Opus sekarang tetapi mereka tidak menunjukkan dorongan mencari kekuatan, kecenderungan untuk berbohong, dan sebagainya. Bukankah ini pukulan fatal bagi argumen malapetaka AI bahwa sifat-sifat ini akan (a) muncul dengan kemampuan yang lebih tinggi dan (b) sulit dikendalikan?

Saya ingat ketika "mengizinkan model akses internet yang tidak sah" adalah garis merah kritis yang tidak dapat dilewati oleh umat manusia. Sepertinya semua orang ini salah, atau setidaknya perlu memindahkan tiang gawang cukup jauh.