В мире, где искусственный интеллект становится все более распространенным, важность этики в его разработке и использовании не может быть переоценена. LangBiTe, новый инструмент, разработанный исследователями из Universitat Oberta de Catalunya (UOC), предлагает пользователям возможность настраивать тестирование на предвзятость в моделях ИИ, что делает его уникальным в своем роде.
LangBiTe не создан для коммерческих целей, а служит ресурсом как для разработчиков генеративных ИИ, так и для пользователей без технического образования. Он позволяет выявлять и минимизировать предвзятости в моделях, что, в свою очередь, способствует созданию более качественных ИИ в будущем. Инструмент предлагает независимость от платформ и полную прослеживаемость, что позволяет пользователям, как техническим, так и нет, эффективно задавать этические требования и автоматизировать тестирование.
Одной из ключевых особенностей LangBiTe является его способность учитывать не только гендерные предвзятости, но и другие важные аспекты, такие как расовые, религиозные и политические предвзятости. Исследователи подчеркивают, что LangBiTe является самым полным инструментом на рынке, позволяющим пользователям определять уникальные требования и сценарии тестирования в зависимости от их контекста.
Библиотека LangBiTe включает более 300 шаблонов запросов на разных языках, охватывающих предвзятости, связанные с гендером, расой, религией и другими аспектами. Пользователи могут адаптировать эти шаблоны под свои нужды, добавляя новые вопросы и этические проблемы.
LangBiTe также предоставляет доступ к различным моделям генеративного ИИ, включая OpenAI и другие популярные платформы. Это позволяет пользователям сравнивать ответы разных моделей и версий, обеспечивая прозрачность и возможность ручной проверки.
Будущие разработки LangBiTe направлены на расширение его возможностей для анализа моделей, генерирующих изображения и видео, что поможет выявлять новые риски, такие как усиление стереотипов. Инструмент также может помочь организациям соответствовать требованиям нового Закона ЕС о ИИ, который направлен на обеспечение равного доступа и недискриминации.
LangBiTe уже используется такими учреждениями, как Институт науки и технологий Люксембурга, что подтверждает его актуальность и полезность в современном мире.