Современные технологии искусственного интеллекта (ИИ) открывают новые горизонты, но вместе с тем и новые риски. Недавние исследования выявили, что чатботы, доступные в интернете, могут генерировать подробные рекомендации по получению генетического материала и созданию опасных патогенов. Это вызывает тревогу, так как такие инструменты могут значительно снизить барьеры для осуществления биологических атак.
Традиционно создание и использование химических, биологических, радиологических и ядерных (CBRN) материалов требует специализированных знаний и доступа к контролируемым веществам. Однако с появлением генеративного ИИ потенциальные злоумышленники могут получать информацию, не прибегая к специализированной литературе или лабораторным сетям. Теперь они могут использовать большие языковые модели и чатботы, которые отвечают на уточняющие вопросы и помогают структурировать информацию.
В ходе экспериментов ученые обнаружили, что чатботы могут предоставлять информацию о том, как приобрести сырое ДНК, собрать его в опасные патогены и даже распространить их с помощью воздушных шаров. Хотя разработчики утверждают, что новые модели ограничивают такие запросы, эксперты подчеркивают, что чатботы могут помочь пользователям собрать открытые данные в связные сценарии атак, что снижает неопределенность и повышает уверенность в действиях.
Токсины, такие как рицин, представляют собой привлекательные цели для экстремистов, так как их можно получить из обычных предшественников, хотя их очистка и распространение остаются технически сложными задачами. Примером может служить недавний случай в Индии, когда группа пыталась создать рицин для массового отравления, используя как традиционные поисковые системы, так и чатботы для исследования необходимых материалов.
Анализ показывает, что террористы уже используют генеративный ИИ для создания пропаганды и манипуляции контентом. Это подчеркивает необходимость более строгого контроля за такими технологиями. Разработчики ИИ и платформы должны учитывать риски, связанные с CBRN, и внедрять специальные меры безопасности для предотвращения злоупотреблений.
В заключение, хотя генеративный ИИ не устраняет физические ограничения, он меняет способы формирования намерений и подготовки к потенциальным атакам. Важно выявлять эти изменения на ранних стадиях, чтобы минимизировать риски и предотвратить возможные угрозы.