В мире автономных AI-агентов, где безопасность и доверие становятся ключевыми факторами, компания Nuggets сделала важный шаг, выпустив langchain-nuggets. Этот открытый пакет для Python и TypeScript предназначен для обеспечения строгого контроля над действиями AI-агентов, проверяя, имеет ли конкретный пользователь право на выполнение определенных действий в данный момент.
Система работает следующим образом: для каждого разрешенного действия создается подписанный "Action Receipt", который фиксирует, кто и на основании какого полномочия совершил действие, а также при каких условиях и с какой целью. Это позволяет обеспечить прозрачность и доверие к действиям агентов. Nuggets утверждает, что их решение закрывает пробел между доступом, авторизацией и действиями, что особенно важно в высокорегулируемых отраслях, где агенты могут управлять финансами или изменять записи.
Система проверяет каждое обращение к инструментам перед его выполнением, анализируя пять условий на основе подписанного делегированного удостоверения. Если действие разрешено, генерируется криптографический доказательный артефакт; если нет — вызов блокируется. В случае отзыва полномочий изменения вступают в силу немедленно, что обеспечивает высокий уровень контроля.
Согласно словам Seema Khinda Johnson, CCO Nuggets, доступ определяет, к каким системам может обращаться агент, а авторитет — разрешает ли конкретное действие для данного пользователя в данный момент. Это особенно актуально для предприятий, которые хотят внедрить автономные агенты в критически важные процессы.
В дополнение к этому, Innovation Labs создали Консультативный совет, который будет заниматься вопросами, связанными с автономными AI-агентами. Совет включает экспертов в области национальной безопасности, кибербезопасности и международных финансов, что подчеркивает важность стандартов и доверия в эпоху быстро развивающихся технологий.
Как подчеркивает Пол Саган, бывший CEO Akamai, для успешного внедрения автономных AI-агентов необходимо не только повысить их возможности, но и обеспечить надежные основы для доверия и ответственности. Это особенно важно в условиях, когда технологии становятся все более взаимосвязанными и автономными.