В последние годы использование автономных оружейных систем и искусственного интеллекта в военных конфликтах стало предметом активного обсуждения. Сенатор Марк Келли из Аризоны предложил поправку к закону о национальной обороне, которая требует, чтобы в процессе применения силы всегда оставалась "окончательная человеческая ответственность".
Эта инициатива возникла на фоне общественного и союзнического беспокойства о том, что США могут оказаться в юридически и этически уязвимом положении, если автономные системы приведут к гражданским жертвам без четкого человеческого решения в цепочке командования. Поправка Келли закрепляет политику Министерства обороны, требующую человеческого контроля над автономными оружейными системами, что было установлено в директиве 3000.09.
Недавно президент США подписал меморандум, который призывает Пентагон устранить ненужные барьеры для быстрого развертывания ИИ. Поправка Келли, если она пройдет через законодательный процесс, будет блокировать устранение человеческого участия в "цепочке уничтожения". Комитет по вооруженным силам Сената одобрил поправку с голосованием 18-9.
Несмотря на поддержку поправки, Келли проголосовал против всего законопроекта о национальной обороне, ссылаясь на его стоимость в 1,15 триллиона долларов и недостаток прозрачности. Он отметил, что нельзя предоставлять Пентагону "пустой чек".
Использование ИИ в вооруженных силах США стало особенно актуальным в последние месяцы. Например, в январе ИИ-инструмент Claude был использован для захвата президента Венесуэлы Николаса Мадуро. Однако его применение также вызвало критику после удара по школе в Иране, в результате которого погибли 175 человек, в основном девочки.
Эксперты подчеркивают необходимость четких юридических рамок для использования ИИ в военных действиях. Они считают, что необходимо установить правила, которые определят, как и кто будет нести ответственность за возможные злоупотребления. Важно, чтобы эти правила исходили от гражданских контролеров и внутренней военной культуры.
Поправка Келли является шагом вперед, но эксперты предупреждают, что без дополнительных механизмов ответственности она может лишь создать видимость контроля со стороны человека, в то время как реальная ситуация останется неизменной.