AI-чат-боты могут влиять на избирателей лучше, чем политическая реклама | Мишель Ким, MIT Technology Review Разговор с чат-ботом может изменить политические взгляды людей, но самые убедительные модели также распространяют больше всего дезинформации. В 2024 году кандидат в Конгресс от Демократической партии в Пенсильвании, Шамейн Дэниелс, использовала AI-чат-бота по имени Эшли, чтобы звонить избирателям и вести с ними беседы. "Здравствуйте. Меня зовут Эшли, и я волонтер искусственного интеллекта в кампании Шамейн Дэниелс в Конгресс," начинались звонки. Дэниелс в конечном итоге не победила. Но, возможно, эти звонки помогли её делу: новые исследования показывают, что AI-чат-боты могут изменить мнения избирателей за одну беседу — и они удивительно хороши в этом. Многоуниверситетская команда исследователей обнаружила, что общение с политически предвзятым AI-моделем было более эффективным, чем политическая реклама, в том, чтобы подтолкнуть как демократов, так и республиканцев поддержать кандидатов от противоположной партии. Чат-боты изменяли мнения, ссылаясь на факты и доказательства, но они не всегда были точными — на самом деле, исследователи обнаружили, что самые убедительные модели говорили больше всего неправды. Результаты, подробно описанные в паре исследований, опубликованных в журналах Nature и Science, являются последними в развивающемся корпусе исследований, демонстрирующих убедительную силу LLM. Они поднимают глубокие вопросы о том, как генеративный AI может изменить выборы. "Одна беседа с LLM имеет довольно значительное влияние на важные выборы," говорит Гордона Пенникук, психолог из Корнеллского университета, который работал над исследованием в Nature. LLM могут убеждать людей более эффективно, чем политическая реклама, потому что они генерируют гораздо больше информации в реальном времени и стратегически используют её в беседах, говорит он. Для статьи в Nature исследователи привлекли более 2300 участников для общения с чат-ботом за два месяца до выборов президента США в 2024 году. Чат-бот, который был обучен выступать за одного из двух ведущих кандидатов, оказался удивительно убедительным, особенно когда речь шла о политических платформах кандидатов по таким вопросам, как экономика и здравоохранение. Поддерживающие Дональда Трампа, которые общались с AI-моделью, поддерживающей Камалу Харрис, стали немного более склонны поддерживать Харрис, переместившись на 3,9 пункта в её сторону по 100-балльной шкале. Это было примерно в четыре раза больше, чем измеренный эффект политической рекламы на выборах 2016 и 2020 годов. AI-модель, поддерживающая Трампа, переместила сторонников Харрис на 2,3 пункта в сторону Трампа. В аналогичных экспериментах, проведенных перед выборами в Канаде в 2025 году и президентскими выборами в Польше в 2025 году, команда обнаружила ещё больший эффект. Чат-боты изменили отношение избирателей оппозиции примерно на 10 пунктов. Долгосрочные теории политически мотивированного мышления утверждают, что партийные избиратели не восприимчивы к фактам и доказательствам, которые противоречат их убеждениям. Но исследователи обнаружили, что чат-боты, которые использовали ряд моделей, включая варианты GPT и DeepSeek, были более убедительными, когда им было предписано использовать факты и доказательства, чем когда им говорили не делать этого. "Люди обновляют свои взгляды на основе фактов и информации, которые модель предоставляет им," говорит Томас Костелло, психолог из Американского университета, который работал над проектом. Проблема в том, что некоторые из "доказательств" и "фактов", которые чат-боты представили, были ложными. Во всех трех странах чат-боты, выступающие за правых кандидатов, сделали большее количество неточных заявлений, чем те, которые выступали за левых кандидатов. Основные модели обучены на огромных объемах текстов, написанных людьми, что означает, что они воспроизводят реальные явления — включая "политическую коммуникацию, которая исходит от правых, которая, как правило, менее точна," согласно исследованиям партийных постов в социальных сетях, говорит Костелло. В другом исследовании, опубликованном на этой неделе в Science, перекрывающаяся команда исследователей изучила, что делает эти чат-боты такими убедительными. Они использовали 19 LLM для взаимодействия с почти 77 000 участников из Великобритании по более чем 700 политическим вопросам, варьируя такие факторы, как вычислительная мощность, методы обучения и риторические стратегии. Самый эффективный способ сделать модели убедительными заключался в том, чтобы предписать им упаковывать свои аргументы фактами и доказательствами, а затем дать им дополнительное обучение, предоставив примеры убедительных бесед. На самом деле, самая убедительная модель переместила участников, которые изначально не соглашались с политическим заявлением, на 26,1 пункта в сторону согласия. "Это действительно большие эффекты лечения," говорит Коби Хакенбург, научный сотрудник Института безопасности AI в Великобритании, который работал над проектом. Но оптимизация убедительности обошлась в цену правдивости. Когда модели становились более убедительными, они все чаще предоставляли вводящую в заблуждение или ложную информацию — и никто не знает, почему. "Возможно, что по мере того, как модели учатся использовать все больше и больше фактов, они, по сути, обращаются к самому дну того, что они знают, так что факты становятся хуже по качеству," говорит Хакенбург. Убедительная сила чат-ботов может иметь глубокие последствия для будущего демократии, отмечают авторы. Политические кампании, использующие AI-чат-ботов, могут формировать общественное мнение таким образом, который компрометирует способность избирателей делать независимые политические суждения. Тем не менее, точные контуры влияния остаются неясными. "Мы не уверены, как будут выглядеть будущие кампании и как они могут интегрировать такие технологии," говорит Энди Гесс, политолог из Принстонского университета. Конкурировать за внимание избирателей дорого и сложно, и заставить их участвовать в долгих политических беседах с чат-ботами может быть сложно. "Будет ли это способом, которым люди будут информировать себя о политике, или это будет более нишевой деятельностью?" — спрашивает он. ...