В последние годы искусственный интеллект (ИИ) становится неотъемлемой частью государственных процессов, и Новая Зеландия не исключение. Однако возникает вопрос: насколько надежны рамки управления, которые мы создаем для его использования? На недавней конференции Международного общества исследований государственного управления эксперты обсуждали, как ИИ может служить общественным интересам.
С одной стороны, некоторые страны разрабатывают системы, ориентированные на контроль и наблюдение, в то время как другие стремятся создать надежные механизмы защиты прав граждан. Новая Зеландия находится в сложной ситуации, где ее рамки для использования ИИ в государственном секторе, хотя и декларируют принципы прозрачности и справедливости, остаются необязательными. Это вызывает опасения, что такие подходы могут оказаться слишком оптимистичными.
Существующая структура управления ИИ в Новой Зеландии, известная как "Рамка ИИ для государственной службы", не имеет законодательной силы. Это создает риск, что ответственность за использование ИИ будет возложена на отдельные агентства, которые могут иметь разные уровни готовности и возможностей. Проблема усугубляется тем, что алгоритмические системы, внедренные без четкого понимания, могут привести к серьезным последствиям, как это показал случай с австралийской схемой Robodebt.
Кроме того, в Новой Зеландии существует необходимость учитывать права коренных народов, что добавляет сложности в управление данными. Важно, чтобы государственные учреждения не только принимали ИИ, но и осознавали, где технологии могут подвести.
Хотя ИИ может открывать новые возможности, такие как выявление несоответствий в политических рамках, для этого необходимо, чтобы организации понимали свои слабые места. Важно не просто следовать модным трендам, а создавать защищенные роли, где специалисты будут анализировать результаты работы ИИ на предмет предвзятости и ошибок.
Таким образом, перед Новой Зеландией стоит задача не только в том, чтобы адаптировать ИИ, но и в том, чтобы обеспечить этическое и ответственное его использование, что требует более строгих и обязательных норм.