На недавней конференции по искусственному интеллекту в Тель-Авиве, соучредитель и CEO компании Clarity, Михаэль Матяс, поднял важный вопрос о растущей угрозе глубоких фейков. Он продемонстрировал два видео — одно реальное, другое — глубокий фейк, и результаты теста на их распознавание оказались неутешительными. Алгоритмы не смогли отличить подделку от оригинала, что вызывает серьезные опасения.
Матяс отметил, что глубокие фейки становятся все более распространенными и могут использоваться в различных сферах, включая медицину, образование и развлечение. По прогнозам Europol, к 2026 году около 90% онлайн-контента будет создано с помощью ИИ, включая видео на YouTube и в социальных сетях.
Он также привел пример мошенничества, когда компания потеряла 25 миллионов долларов после того, как сотрудник провел Zoom-встречу с поддельными руководителями. Это подчеркивает необходимость разработки эффективных решений для защиты от таких атак.
Матяс подчеркнул, что для создания надежных систем обнаружения глубоких фейков требуется высокая степень точности. Однако этого недостаточно, поскольку многие атаки уже могут быть совершены. Необходимы системы, способные в реальном времени определять, кто из участников видеозвонка является подделкой.
В условиях растущей дезинформации, особенно в кризисные моменты, такие технологии становятся критически важными для защиты организаций и общества в целом.