Конференция [un]prompted 2026, прошедшая 3-4 марта в Сан-Франциско, собрала ведущих исследователей и специалистов по безопасности, которые обсуждали будущее защиты AI. TrendAI™ представила свои достижения в области защиты AI и выявления уязвимостей, что вызвало большой интерес у участников.
В рамках мероприятия главный исследователь угроз Шон Парк провел сессию под названием "Когда паспорта выполняют код: эксплуатация AI-систем KYC". Он продемонстрировал, что при загрузке фотографии удостоверения личности для проверки KYC AI не просто извлекает текст, а может выполнять код. Шон показал, как документы с скрытыми "инъекциями" могут обмануть AI-агента, заставив его манипулировать данными в разных записях клиентов. Это открывает новые горизонты для кражи данных, не требуя обхода традиционных средств безопасности.
Позже на конференции Питер Гирнус и Деменг Чен представили FENRIR — систему для поиска уязвимостей в AI и протоколах контекста моделей (MCP). Они рассказали о многоуровневой архитектуре FENRIR, которая сочетает статический анализ и человеческую валидацию. Система обрабатывает большие кодовые базы, используя инструменты, такие как CodeQL и Semgrep, и устраняет более 90% ложных срабатываний до того, как результат попадет к исследователю. Это позволяет значительно ускорить процесс выявления уязвимостей.
Выступления TrendAI™ на [un]prompted 2026 подчеркивают важность защиты AI-систем в условиях их быстрого роста. Участие в конференции с такими лидерами отрасли, как OpenAI и NVIDIA, способствовало обмену практическими знаниями и идеями, необходимыми для обеспечения безопасности AI. Это событие стало важным шагом к созданию комплексной стратегии безопасности, которая рассматривает каждую AI-пipeline как высокорисковую среду выполнения.