В последние дни в Великобритании разгорелись обсуждения вокруг инициативы Министерства юстиции, которая предполагает использование искусственного интеллекта для предсказания вероятности совершения убийства. Эта идея, напоминающая сюжет фильма "Особое мнение", вызывает серьезные опасения среди правозащитников и экспертов.
Представьте, что к вашему дому подходят полицейские и сообщают, что по данным их AI-системы вы находитесь в списке потенциальных убийц. Это не просто сценарий из фантастического фильма, а реальность, к которой может привести работа Министерства юстиции. Хотя правительство утверждает, что это всего лишь эксперимент, многие уверены, что за этим стоит план по внедрению такой технологии в реальную практику.
Предыдущие попытки внедрения предсказательной полиции в Великобритании уже вызывали много вопросов. Например, в прошлом году полиция Дурема тестировала инструменты для оценки рецидивизма, но предсказание убийств — это совершенно новый уровень, который может привести к серьезным последствиям. Система, которая будет определять, кто может стать преступником, ставит под сомнение основополагающий принцип презумпции невиновности.
Если AI определит вас как потенциального убийцу, как будут действовать правоохранительные органы? Подвергнут ли вас постоянному наблюдению или даже арестуют "на всякий случай"? Это поднимает важные вопросы о правах человека и о том, как далеко может зайти государство в своих попытках предотвратить преступления.
Существующие модели предсказательной полиции уже показали свою ненадежность и предвзятость. Ошибки в данных могут привести к катастрофическим последствиям, и если AI будет использоваться для определения, кто может стать преступником, это может привести к еще большему количеству судебных ошибок. Вопрос о том, будет ли система основана на неполных данных или потребует тотального наблюдения, также вызывает серьезные опасения.
На данный момент законодательство в Великобритании требует, чтобы в процессе принятия решений участвовал человек. Однако правительство уже продвигает реформы, которые могут ослабить эти ограничения, что открывает двери для автоматизированных решений, принимаемых машинами.
Важно понимать, что исследование причин преступлений и предсказание поведения — это две совершенно разные задачи. Понимание социальных факторов, влияющих на преступность, может помочь в разработке эффективных политик, но попытки предсказать индивидуальное поведение могут привести к разрушению доверия к правосудию и неправомерному лишению свободы невиновных людей.
Итак, хотя "Особое мнение" остается культовым фильмом, его сценарий не должен служить руководством для реальной политики. Министерству юстиции следует избегать использования дистопических идей в своих планах на будущее.