Chatbot AI dapat mempengaruhi pemilih lebih baik daripada iklan politik | Michelle Kim, Tinjauan Teknologi MIT Percakapan dengan chatbot dapat mengubah pandangan politik orang—tetapi model yang paling persuasif juga menyebarkan informasi yang paling salah. Pada tahun 2024, seorang kandidat kongres Demokrat di Pennsylvania, Shamaine Daniels, menggunakan chatbot AI bernama Ashley untuk menelepon pemilih dan melakukan percakapan dengan mereka. "Halo. Nama saya Ashley, dan saya seorang sukarelawan kecerdasan buatan untuk pencalonan Shamaine Daniels untuk Kongres," panggilan dimulai. Daniels akhirnya tidak menang. Tapi mungkin panggilan itu membantunya menyebabkannya: Penelitian baru mengungkapkan bahwa chatbot AI dapat mengubah pendapat pemilih dalam satu percakapan—dan mereka secara mengejutkan pandai dalam hal itu. Sebuah tim peneliti multi-universitas telah menemukan bahwa mengobrol dengan model AI yang bias secara politik lebih efektif daripada iklan politik untuk mendorong Demokrat dan Republik untuk mendukung kandidat presiden dari partai lawan. Chatbot mempengaruhi opini dengan mengutip fakta dan bukti, tetapi mereka tidak selalu akurat — pada kenyataannya, para peneliti menemukan, model yang paling persuasif mengatakan hal-hal yang paling tidak benar. Temuan tersebut, yang dirinci dalam sepasang penelitian yang diterbitkan dalam jurnal Nature and Science, adalah yang terbaru dalam badan penelitian yang muncul yang menunjukkan kekuatan persuasif LLM. Mereka menimbulkan pertanyaan mendalam tentang bagaimana AI generatif dapat membentuk kembali pemilu. "Satu percakapan dengan LLM memiliki efek yang cukup berarti pada pilihan pemilu yang menonjol," kata Gordon Pennycook, seorang psikolog di Cornell University yang bekerja pada studi Nature. LLM dapat membujuk orang lebih efektif daripada iklan politik karena mereka menghasilkan lebih banyak informasi secara real time dan menerapkannya secara strategis dalam percakapan, katanya. Untuk makalah Nature, para peneliti merekrut lebih dari 2.300 peserta untuk terlibat dalam percakapan dengan chatbot dua bulan sebelum pemilihan presiden AS 2024. Chatbot, yang dilatih untuk mengadvokasi salah satu dari dua kandidat teratas, secara mengejutkan persuasif, terutama ketika membahas platform kebijakan kandidat tentang isu-isu seperti ekonomi dan perawatan kesehatan. Pendukung Donald Trump yang mengobrol dengan model AI yang mendukung Kamala Harris menjadi sedikit lebih cenderung untuk mendukung Harris, bergerak 3,9 poin ke arahnya dalam skala 100 poin. Itu kira-kira empat kali efek terukur dari iklan politik selama pemilu 2016 dan 2020. Model AI yang mendukung Trump menggerakkan pendukung Harris 2,3 poin ke arah Trump. Dalam eksperimen serupa yang dilakukan menjelang pemilihan federal Kanada 2025 dan pemilihan presiden Polandia 2025, tim menemukan efek yang lebih besar. Chatbots mengubah sikap pemilih oposisi sekitar 10 poin. Teori lama tentang penalaran bermotivasi politik berpendapat bahwa pemilih partisan kebal terhadap fakta dan bukti yang bertentangan dengan keyakinan mereka. Tetapi para peneliti menemukan bahwa chatbots, yang menggunakan berbagai model termasuk varian GPT dan DeepSeek, lebih persuasif ketika mereka diinstruksikan untuk menggunakan fakta dan bukti daripada ketika mereka diberitahu untuk tidak melakukannya. "Orang-orang memperbarui berdasarkan fakta dan informasi yang diberikan model kepada mereka," kata Thomas Costello, seorang psikolog di American University, yang mengerjakan proyek tersebut. Tangkapannya adalah, beberapa "bukti" dan "fakta" yang disajikan chatbot tidak benar. Di ketiga negara tersebut, chatbot yang mengadvokasi kandidat berhaluan kanan membuat lebih banyak klaim yang tidak akurat daripada yang mengadvokasi kandidat berhaluan kiri. Model yang mendasarinya dilatih pada sejumlah besar teks yang ditulis manusia, yang berarti mereka mereproduksi fenomena dunia nyata—termasuk "komunikasi politik yang berasal dari kanan, yang cenderung kurang akurat," menurut studi posting media sosial partisan, kata Costello. Dalam studi lain yang diterbitkan minggu ini, di Science, tim peneliti yang tumpang tindih menyelidiki apa yang membuat chatbot ini begitu persuasif. Mereka mengerahkan 19 LLM untuk berinteraksi dengan hampir 77.000 peserta dari Inggris tentang lebih dari 700 masalah politik sambil memvariasikan faktor seperti kekuatan komputasi, teknik pelatihan, dan strategi retoris. Cara paling efektif untuk membuat model persuasif adalah dengan menginstruksikan mereka untuk mengemas argumen mereka dengan fakta dan bukti dan kemudian memberi mereka pelatihan tambahan dengan memberi mereka contoh percakapan persuasif. Faktanya, model yang paling persuasif menggeser peserta yang awalnya tidak setuju dengan pernyataan politik 26,1 poin ke arah setuju. "Ini adalah efek pengobatan yang sangat besar," kata Kobi Hackenburg, seorang ilmuwan peneliti di Institut Keamanan AI Inggris, yang mengerjakan proyek tersebut. Tetapi mengoptimalkan persuasif datang dengan mengorbankan kebenaran. Ketika model menjadi lebih persuasif, mereka semakin memberikan informasi yang menyesatkan atau salah—dan tidak ada yang yakin mengapa. "Bisa jadi ketika model belajar untuk menyebarkan lebih banyak fakta, mereka pada dasarnya mencapai bagian bawah barel barang yang mereka ketahui, sehingga faktanya menjadi lebih buruk kualitasnya," kata Hackenburg. Kekuatan persuasif chatbots dapat memiliki konsekuensi yang mendalam bagi masa depan demokrasi, catat para penulis. Kampanye politik yang menggunakan chatbot AI dapat membentuk opini publik dengan cara yang membahayakan kemampuan pemilih untuk membuat penilaian politik independen. Namun, kontur pasti dari benturan masih harus dilihat. "Kami tidak yakin seperti apa kampanye di masa depan dan bagaimana mereka dapat menggabungkan teknologi semacam ini," kata Andy Guess, seorang ilmuwan politik di Universitas Princeton. Bersaing untuk mendapatkan perhatian pemilih mahal dan sulit, dan membuat mereka terlibat dalam percakapan politik yang panjang dengan chatbot mungkin menantang. "Apakah ini akan menjadi cara orang menginformasikan diri mereka sendiri tentang politik, atau apakah ini akan menjadi lebih dari kegiatan khusus?" tanyanya. ...