Современные технологии, такие как генеративный искусственный интеллект, становятся все более распространенными в различных сферах, включая работу с правами человека в образовательных учреждениях. Однако использование ИИ в этом контексте требует особого внимания и осторожности.
Недавние случаи показывают, что сотрудники, занимающиеся расследованиями, могут случайно загружать в ИИ-платформы документы, содержащие конфиденциальную информацию. Например, координатор по вопросам Title IX может ввести отчет об расследовании в ИИ для получения обратной связи, не проверяя ответ, или загрузить полицейские отчеты и дисциплинарные истории студентов для оценки необходимости экстренного удаления. Эти действия могут привести к утечке личной информации, что недопустимо.
Важно помнить, что генеративные ИИ-системы не всегда прозрачны в отношении того, как они обрабатывают и хранят загруженные данные. Даже если информация была отредактирована для удаления личных данных, существует риск, что ИИ сможет восстановить идентичность участников на основе оставшихся фактов. Это создает серьезные угрозы для конфиденциальности и может привести к юридическим последствиям, таким как нарушение закона о защите личных данных.
Чтобы избежать подобных ситуаций, учреждения должны разработать четкие внутренние политики по использованию ИИ. Это включает в себя запрет на загрузку материалов, связанных с процессом разрешения споров, в публичные или неутвержденные ИИ-инструменты. Также необходимо обучать сотрудников важности соблюдения конфиденциальности и защиты личной информации.
Кроме того, важно, чтобы все участники процесса, включая родителей и советников, были осведомлены о рисках, связанных с использованием ИИ. Необходимо включить специальные положения о ИИ в соглашения и уведомления, чтобы предупредить о возможных последствиях загрузки материалов.
В заключение, использование ИИ в расследованиях по правам человека должно быть обоснованным и контролируемым. Технологии могут быть полезными, но они не должны заменять человеческий анализ и суждение. Всегда проверяйте и подтверждайте информацию, прежде чем использовать ее в официальных документах.