Современные технологии генеративного искусственного интеллекта открывают новые горизонты в создании историй, однако они также выявляют и усиливают предвзятости, существующие в нашем обществе. Исследователи из Университета Вашингтона провели анализ, который показал, что AI не только сохраняет гендерные стереотипы в детских рассказах, но и усугубляет их.
В ходе эксперимента шесть ведущих AI-моделей получили задание написать истории о говорящих животных, не указывая их пол. Результаты оказались удручающими: среди 23,800 сгенерированных ответов женские персонажи встречались всего в 2% случаев. В 41% историй персонажи были описаны как мужские, а в 57% случаев пол вообще не указывался.
Исследователи отметили, что, несмотря на попытки авторов использовать животных для создания "универсальных" персонажей, гендерные предвзятости проявляются даже сильнее, чем в историях о людях. Это открытие подчеркивает, как AI может не только отражать, но и усиливать человеческие предвзятости.
В ходе исследования также было установлено, что модели, такие как Google Gemini и OpenAI GPT-5.1, генерировали наибольшее количество мужских персонажей — 63% и 65% соответственно. В то же время, модель Anthropic Claude показала наилучший результат среди женских персонажей, но их доля составила всего 4%.
Кроме гендерных предвзятостей, исследователи заметили, что AI использует более обобщенный и повторяющийся подход к написанию, что также может быть следствием данных, на которых они обучались. Это поднимает важные вопросы о том, как AI влияет на повествование и какие выводы можно сделать о его использовании в будущем.
С учетом того, что AI все чаще используется в различных сферах, от написания текстов до научных исследований, это исследование напоминает нам о важности внимательного подхода к данным, на которых обучаются эти "умные" модели. В конечном итоге, детские книги, хотя и могут казаться легкомысленными, формируют ранние представления о гендерных ролях, и это исследование подчеркивает необходимость более сбалансированного подхода к созданию контента.