Microsoft представила Phi Silica — новейшую малую языковую модель (SLM), интегрированную в ПК с Windows 11 и процессорами Snapdragon X Series. Эта модель обеспечивает значительное улучшение в области энергоэффективности, скорости вывода и использования памяти, что делает её идеальным инструментом для разработчиков и пользователей.
Phi Silica, работающая на нейронных процессорах (NPU), позволяет выполнять до 40 триллионов операций в секунду, что в 20 раз мощнее и в 100 раз эффективнее по сравнению с традиционными графическими процессорами. Это означает, что пользователи смогут выполнять сложные AI-задачи без значительного влияния на производительность системы и расход энергии.
Среди ключевых функций Phi Silica — возможность обработки запросов с низкой задержкой и поддержка нескольких языков, включая английский, китайский и испанский. Разработчики смогут использовать API Phi Silica с января 2025 года, что упростит интеграцию языковых возможностей в их приложения.
Эта модель также предлагает улучшенные показатели по времени до первого токена и пропускной способности, что делает её идеальной для интерактивных приложений. Phi Silica была создана с акцентом на оптимизацию памяти и производительности, что позволяет ей работать эффективно даже на устройствах с ограниченными ресурсами.
С внедрением Phi Silica Microsoft делает шаг в новую эру AI, обеспечивая пользователей мощными инструментами для работы и творчества. Это открывает новые возможности для разработчиков и пользователей ПК, стремящихся к максимальной производительности и эффективности.