В мире искусственного интеллекта открытые модели часто воспринимаются как более экономически выгодные решения. Однако новое исследование от компании Nous Research ставит под сомнение эту точку зрения. Исследование показало, что открытые модели ИИ используют от 1,5 до 4 раз больше токенов — базовых единиц вычислений — по сравнению с закрытыми моделями, такими как разработки OpenAI и Anthropic.
Особенно заметна разница в случае простых вопросов на знание, где открытые модели могут использовать до 10 раз больше токенов. Это открытие ставит под сомнение распространенное мнение о том, что открытые модели всегда более выгодны с точки зрения затрат. Хотя стоимость токенов для открытых моделей может быть ниже, их высокая потребность в вычислительных ресурсах может свести на нет эти преимущества.
Исследование подчеркивает важность пересмотра стратегий развертывания ИИ в компаниях. Бизнесу стоит учитывать не только стоимость токенов, но и общие затраты на вычислительные ресурсы при выборе между открытыми и закрытыми моделями. Это может привести к изменению подходов к внедрению ИИ в различных отраслях.
Таким образом, компании должны внимательно анализировать свои потребности и возможности, чтобы оптимально использовать ИИ-технологии, учитывая не только их стоимость, но и эффективность в выполнении задач.