Вопрос о том, кто должен контролировать искусственный интеллект, становится все более актуальным. Палмер Лаки, основатель оборонной компании Anduril, выступает за то, чтобы эта власть принадлежала правительству, а не частным корпорациям. В недавнем интервью он подчеркнул, что именно правительство, представляющее интересы народа, должно принимать решения о применении ИИ. Лаки предостерегает, что если компании начнут диктовать условия, это может привести к угрозе демократии.
По его мнению, важно придерживаться позиции, что контроль над ИИ должен оставаться в руках народа. Лаки утверждает, что если частные компании будут действовать вне рамок закона и без учета мнения избранных представителей, это приведет к "корпоратократии", где корпоративные интересы будут иметь большее влияние на внешнюю политику США, чем решения президента.
Эти размышления Лаки совпадают с недавними событиями вокруг компании Anthropic, чье руководство отказалось предоставить Пентагону полный доступ к своим ИИ-системам для массового наблюдения и автономного оружия. В ответ на это Министерство обороны США обозначило Anthropic как "рисковую компанию в цепочке поставок", что обычно касается иностранных противников. Однако Anthropic продолжает обсуждения с Пентагоном, подчеркивая, что не может в доброй совести удовлетворить запросы, которые, по их мнению, выходят за рамки допустимого.
Лаки также отметил, что подобные ситуации не новы для технологических компаний. Например, Google в 2018 году вышла из проекта Maven, связанного с анализом дронов, после протестов сотрудников, опасавшихся, что это может привести к созданию автономного оружия. Он считает, что в противном случае Silicon Valley может получить больше власти в вопросах внешней политики, чем правительство.
Таким образом, вопрос о контроле над ИИ остается открытым, и мнения по этому поводу разделяются. Лаки подчеркивает, что независимо от политической ситуации, частные компании должны следовать внешнеполитическим решениям, принятым правительством.