В последние годы технологии искусственного интеллекта (ИИ) становятся все более актуальными в военной сфере, особенно в контексте принятия решений о целеполагании. В феврале 2026 года компания Anthropic сделала важное заявление, отказавшись от использования своих языковых моделей для создания полностью автономного оружия. Это решение подчеркивает этические аспекты, связанные с использованием ИИ в военных действиях, и ставит под сомнение, насколько эффективна модель "человек в процессе" в обеспечении законности и моральности военных решений.
Ситуация в таких регионах, как Газа и Украина, демонстрирует растущее использование систем поддержки принятия решений на основе ИИ (AI-DSS) в процессе целеполагания. Эти системы помогают людям принимать решения, но не принимают их самостоятельно. Однако возникает вопрос: достаточно ли этого человеческого участия для обеспечения качественного анализа и соблюдения норм международного гуманитарного права (МГП)?
Дебаты о применении ИИ в военных действиях начались с обсуждения Летальных Автономных Военных Систем (LAWS), которые могут идентифицировать и атаковать цели без человеческого вмешательства. В ходе обсуждений акцент сместился на необходимость человеческого участия в принятии решений о применении силы. Однако до сих пор не достигнуто единого мнения о том, что именно подразумевается под "человеческим контролем".
Некоторые эксперты считают, что определенные уровни участия являются достаточными, в то время как другие требуют более строгого контроля. Важно понимать, что наличие человека, который авторизует атаку, не всегда гарантирует, что он сможет провести качественный анализ законности цели. Человеческое суждение требует способности к контекстуальному анализу, что может быть затруднено при использовании AI-DSS, которые генерируют профили целей на основе алгоритмов.
AI-DSS могут создавать иллюзию легитимности, утверждая, что наличие человека в процессе позволяет обеспечить должный уровень осторожности и соблюдение норм МГП. Однако на практике это может оказаться не так. Человеческое участие не всегда означает, что оператор обладает необходимой ситуационной осведомленностью для принятия обоснованных решений.
В заключение, использование AI-DSS в военных действиях может привести к снижению качества человеческого суждения в процессе целеполагания. Простое наличие человека в процессе не гарантирует, что он сможет провести необходимый анализ и обеспечить соблюдение норм международного гуманитарного права. Важно продолжать обсуждение роли человека в принятии решений о применении силы, особенно с учетом новых технологий, которые могут подрывать это суждение.