Офлайн-ШІ для налаштувань: Microsoft тестує швидку модель Mu

Microsoft впроваджує в Windows 11 незвичайну функцію, яка може спростити життя користувачам, які не люблять копирсатися в налаштуваннях. Йдеться про невелику, але потужну мовну модель під назвою Mu, яка вбудується прямо в додаток «Налаштування» на комп'ютерах з підтримкою Copilot+.

Головна «фішка» Mu — вона працює повністю автономно, прямо на вашому пристрої. Жодних звернень до хмари, жодної передачі ваших запитів на сервери. Це стало можливим завдяки спеціальній оптимізації для нейропроцесорів (NPU) від Intel, AMD та Qualcomm. При своїх скромних розмірах (всього 330 мільйонів параметрів) модель швидко обробляє команди, видаючи понад 100 слів на секунду.

Уявіть: ви відкриваєте «Налаштування» і замість пошуку потрібного пункту в меню просто пишете в рядку щось на кшталт: «Зроби тихіше»; «Підключи навушники»; «Увімкни темну тему». Mu повинна зрозуміти, що ви маєте на увазі, і миттєво застосувати потрібні зміни. Навіть у неочевидних випадках, наприклад, якщо у вас два монітори і ви пишете «Зменши яскравість», модель спробує вгадати, до якого екрану стосується команда. Якщо Mu вважатиме ваш запит занадто коротким або неясним, система автоматично переключиться на звичний пошук по налаштуваннях.

Незважаючи на малий розмір, Mu демонструє результати, близькі до більших моделей. Наприклад, у тестах на генерацію коду її точність (93,4%) майже не поступилася моделі Phi-3.5-mini (93%), яка в 10 разів більша. При цьому Відгук практично миттєвий, адже дані не потрібно гонити в хмару і назад, а найголовніше все обробляється на пристрої, що підвищить рівень безпеки.

Mu стане частиною майбутніх оновлень Windows 11 і буде доступна користувачам, у яких є комп'ютери з чіпами Copilot+ (оснащеними NPU). Зараз функція тестується у версіях для розробників (Windows Insiders Dev Channel). Цей крок Microsoft демонструє зростаючий тренд на «локальний ІІ» — розумні помічники, які працюють швидко, приватно і без постійного зв'язку з інтернетом. Можливо, незабаром копирсатися в складних меню налаштувань стане справою минулого.