Современные технологии генеративного ИИ открывают новые горизонты в биологических исследованиях, позволяя ученым разрабатывать протеины, моделировать клетки и заполнять пробелы в экспериментальных данных. Однако, как показывает практика, такие системы могут «галлюцинировать», создавая правдоподобные, но несуществующие молекулярные структуры или выводы.
Это может иметь серьезные последствия для научной работы. Например, ИИ может не заметить действующий кандидат на лекарство, направить исследователей к неэффективному лечению или даже создать иллюзию существования биологического эффекта, который на самом деле не существует. Компьютерный биолог из Университета Гренобль-Альпы в Франции, исследуя потенциальные применения генеративного ИИ, подчеркивает, что не все из них несут одинаковый уровень риска.
Ключевое различие заключается в том, используется ли вывод ИИ как идея для дальнейшего тестирования или как синтетические данные, которые принимаются за доказательства. Например, скрининг потенциальных лекарств или белков считается менее рискованным, поскольку даже если ИИ ошибается, исследователи все равно должны подтвердить эффективность кандидата в реальных экспериментах.
Однако опасность возрастает, когда данные, сгенерированные ИИ, начинают заменять экспериментальные измерения. Синтетические биологические данные могут помочь заполнить пробелы, защитить конфиденциальность пациентов и снизить затраты на исследования, но если ИИ добавляет несуществующие характеристики, это может привести к ложным открытиям.
В реальном мире уже есть примеры, когда ИИ, такой как AlphaFold 3, генерировал «галлюцинированные структуры» в неупорядоченных областях белков. Ошибки ИИ могут не только создать иллюзию несуществующего эффекта, но и исказить реальные данные, что может привести к упущению действительных биологических эффектов.
Важно, как исследователи используют выводы ИИ. Если они рассматриваются как идеи для тестирования, то галлюцинации останутся лишь неудачными гипотезами. Но если их примут за реальные наблюдения, это может привести к ошибочным научным выводам. В конечном итоге, даже самые захватывающие результаты, предложенные ИИ, не могут считаться открытиями, пока не будут подтверждены в реальных экспериментах.