Недавнее исследование, проведенное в рамках крупнейшего проекта по изучению политической убеждаемости AI, показало, что возможности чатботов в этом направлении значительно преувеличены. Ученые из различных университетов, включая MIT и Стэнфорд, проанализировали, как AI может влиять на политические взгляды, опросив почти 80 000 участников в Великобритании.
Изначально предполагалось, что AI-системы смогут убедительно воздействовать на мнения людей, однако результаты исследования показали, что их влияние на политические взгляды оказалось довольно слабым. Ученые протестировали 19 различных языковых моделей, включая несколько версий ChatGPT и другие открытые модели, задавая им вопросы по 707 политическим темам. Участники оценивали свое согласие с определенными позициями до и после общения с AI.
Интересно, что, хотя большие модели, такие как ChatGPT, имели небольшое преимущество, гораздо более важным фактором оказалась методология их обучения. Модели, обученные на ограниченном наборе успешных диалогов, показывали лучшие результаты, чем те, которые просто имели больше параметров и вычислительной мощности. Это открытие подчеркивает, что качество обучения может быть важнее, чем размер модели.
Также исследование опровергло миф о том, что использование персональных данных значительно увеличивает убедительность AI. Ученые обнаружили, что даже при наличии информации о политических взглядах участников влияние на их мнения было минимальным. Более того, использование сложных психологических манипуляций, таких как моральное переосмысление, не дало ожидаемых результатов и даже ухудшило показатели убеждаемости.
В среднем AI изменил оценки участников на 9,4%, что значительно выше, чем у статичных политических рекламных объявлений, но все же не достигает уровня "суперчеловеческой" убеждаемости. Наиболее успешной моделью оказался ChatGPT 4o, который показал результат почти 12%.
Несмотря на то, что исследование развеяло некоторые страхи о влиянии AI на политику, оно также подняло новые вопросы. Например, высокая вовлеченность участников в диалоги с AI может быть связана с тем, что они были мотивированы финансово. Это ставит под сомнение, насколько результаты исследования могут быть применимы в реальных условиях, где участники могут не проявлять такой же интерес к общению с чатботами.
Таким образом, исследование подчеркивает, что, хотя AI может быть полезным инструментом в политической сфере, его возможности в убеждении остаются ограниченными и требуют дальнейшего изучения.