Недавно представленный Kimi K2 Thinking от Moonshot AI привлек внимание своей мощностью, но также и недостатками. Модель использует 140 миллионов токенов для выполнения оценочного теста Artificial Analysis, что в два с половиной раза больше, чем у конкурента DeepSeek V3.2. Это приводит к увеличению затрат на выполнение запросов и времени ожидания ответов, что может нивелировать преимущества низкой цены за токен.
Kimi K2 Thinking доступен для загрузки на Hugging Face и требует около 500 ГБ памяти для работы, так как был квантован до 4 бит. Один из пользователей смог развернуть модель на двух процессорах Mac M3 Ultra с 512 ГБ памяти, получая около 15 токенов в секунду. Модель работает без потери качества на двух M3 Ultras в своем родном формате.
Кроме того, Kimi K2 Thinking доступен через облачный сервис Moonshot с API, совместимым с интерфейсами OpenAI и Anthropic, что упрощает интеграцию для разработчиков. Moonshot предлагает два уровня цен: базовый и "турбо". Базовый тариф стоит $0.60 за миллион входных токенов и $2.50 за миллион выходных, но скорость обработки составляет всего 8 токенов в секунду. В то время как "турбо" тариф, работающий на уровне 50 токенов в секунду, стоит значительно дороже — $1.15 за миллион входных и $8.00 за миллион выходных токенов. Это создает дилемму для разработчиков: дешевый тариф может оказаться слишком медленным для реального времени, а стоимость "турбо" тарифа может быстро возрасти.
Лицензирование модели также является ее преимуществом. Она выпущена под модифицированной MIT лицензией, что позволяет использовать ее в большинстве коммерческих приложений. Единственное ограничение касается крупных сервисов: если продукт с использованием модели имеет более 100 миллионов активных пользователей в месяц или более $20 миллионов дохода, необходимо явно указать "Kimi K2" в интерфейсе.
Выход Kimi K2 Thinking подчеркивает растущую роль китайских лабораторий, таких как Moonshot AI, в создании передовых AI моделей, что усиливает конкуренцию на рынке. Это также указывает на то, что высокие показатели производительности больше не являются исключительной прерогативой западных лабораторий, что создает давление на закрытые модели и предполагает, что искусственный интеллект может стать товаром. В условиях растущей конкуренции, лидерам рынка необходимо сосредоточиться не только на производительности, но и на надежности, пользовательском опыте и уникальных интеграциях продуктов, чтобы сохранить свои позиции.