В последние годы искусственный интеллект (ИИ) активно внедряется в медицинские технологии, однако его применение порождает серьезные вопросы о справедливости и равенстве. Часто модели ИИ демонстрируют неравномерную эффективность для различных групп, что может быть связано с предвзятостью в данных. Чтобы решить эту проблему, команда исследователей разработала "Рамку нейтрализации атрибутов" (Attribute Neutral Framework), которая позволяет отделить предвзятые атрибуты от информации о заболеваниях и нейтрализовать их.
В рамках этой рамки был создан инструмент под названием "Нейтрализатор атрибутов" (AttrNzr), который генерирует нейтрализованные данные, где предвзятые атрибуты не могут быть легко предсказаны ни людьми, ни алгоритмами машинного обучения. Эти данные затем используются для обучения модели диагностики заболеваний (DDM). Сравнительный анализ с другими алгоритмами показывает, что AttrNzr значительно снижает уровень предвзятости, сохраняя при этом высокую точность диагностики.
AttrNzr также поддерживает одновременную нейтрализацию нескольких атрибутов и демонстрирует свою эффективность даже при применении только на этапе обучения, без необходимости использования на этапе тестирования. Это делает его универсальным решением для повышения справедливости в медицинских системах на основе ИИ.
Таким образом, результаты исследования подчеркивают потенциал данных и независимых от модели решений для решения проблем справедливости в области медицинских технологий.