Microsoft представила малую языковую модель «Mu» для ИИ-агента в «Параметрах» Windows

Автор:

Microsoft представила новую малую языковую модель под названием «Mu», которая обеспечивает работу ИИ-агента в приложении «Параметры» в Windows 11. Модель работает локально и использует нейронный процессор (NPU) в устройствах с маркировкой ПК Copilot+. На текущий момент опробовать ИИ-агента в «Параметрах» могут только инсайдеры Windows 11 на канале Dev (поддерживается только английский язык).

ИИ-агент в приложении «Параметры» призваны упростить поиск и изменение системных настроек. Пользователи смогут использовать естественный язык (например, голосовую команду «мой курсор мыши слишком мелкий»), и агент автоматически найдет соответствующую настройку. Более того, если вы предоставите разрешения агенту, то он сможет самостоятельно выполнять действия и изменять настройки системы.

Microsoft заявляет, что модель «Mu» была разработана с учётом ограничений NPU, например, ограничений памяти, чтобы добиться максимально эффективного использования аппаратных возможностей устройства. Модель использует только те операции, которые оптимизированы для выполнения на NPU.

Отмечается, что Microsoft протестировала несколько существующих моделей, однако для ИИ-агента требовалась более компактная модель для достижения целевых показателей по задержке. В итоге была разработана модель «Mu», которая смогла обеспечить время отклика менее 500 миллисекунд.