В мире искусственного интеллекта, где чат-боты становятся все более распространенными, новое исследование поднимает важные вопросы о влиянии предвзятости на пользователей. Исследование, представленное на конференции Ассоциации вычислительной лингвистики, показало, что чат-боты с политическими предвзятостями могут существенно изменить мнения и решения пользователей, взаимодействующих с ними.
Исследователи из Университета Вашингтона провели эксперимент с участием 299 человек, которые идентифицировали себя как демократы или республиканцы. Участники были случайным образом распределены для общения с одним из трех вариантов языковой модели: нейтральной, либеральной и консервативной. Интересно, что участники не знали о предвзятости модели, с которой они взаимодействовали.
В ходе первого задания участники высказывали свои мнения по относительно неочевидным политическим темам, а затем общались с чат-ботом, чтобы узнать больше. Результаты показали, что те, кто общался с предвзятыми моделями, чаще меняли свои мнения в сторону предвзятости модели. Например, демократы, общавшиеся с либеральным чат-ботом, становились менее поддерживающими темы, обычно поддерживаемые консерваторами, и наоборот.
Во втором задании участники выступали в роли мэра, распределяя бюджет между различными секторами. Здесь влияние предвзятых моделей оказалось еще более заметным: демократы, общавшиеся с консервативным ботом, снижали финансирование образования, в то время как республиканцы, взаимодействовавшие с либеральным ботом, увеличивали финансирование образования и социальных программ.
Исследование также выявило, что участники с большим знанием об искусственном интеллекте были менее подвержены влиянию предвзятости. Однако даже те, кто осознавал предвзятость модели, все равно подвергались ее влиянию, что подчеркивает сложность проблемы.
Авторы исследования подчеркивают, что важно не только осознавать предвзятость, но и находить способы, позволяющие пользователям принимать более обоснованные решения при взаимодействии с такими системами. Исследование открывает новые горизонты для понимания того, как искусственный интеллект может влиять на общественное мнение и политические решения.