Новини Офлайн-ШІ для налаштувань: Microsoft тестує швидку модель Mu

Офлайн-ШІ для налаштувань: Microsoft тестує швидку модель Mu

DoubleA
Читати у повній версії

Microsoft впроваджує в Windows 11 незвичайну функцію, яка може спростити життя користувачам, які не люблять копирсатися в налаштуваннях. Йдеться про невелику, але потужну мовну модель під назвою Mu, яка вбудується прямо в додаток «Налаштування» на комп'ютерах з підтримкою Copilot+.

Головна «фішка» Mu — вона працює повністю автономно, прямо на вашому пристрої. Жодних звернень до хмари, жодної передачі ваших запитів на сервери. Це стало можливим завдяки спеціальній оптимізації для нейропроцесорів (NPU) від Intel, AMD та Qualcomm. При своїх скромних розмірах (всього 330 мільйонів параметрів) модель швидко обробляє команди, видаючи понад 100 слів на секунду.

Уявіть: ви відкриваєте «Налаштування» і замість пошуку потрібного пункту в меню просто пишете в рядку щось на кшталт: «Зроби тихіше»; «Підключи навушники»; «Увімкни темну тему». Mu повинна зрозуміти, що ви маєте на увазі, і миттєво застосувати потрібні зміни. Навіть у неочевидних випадках, наприклад, якщо у вас два монітори і ви пишете «Зменши яскравість», модель спробує вгадати, до якого екрану стосується команда. Якщо Mu вважатиме ваш запит занадто коротким або неясним, система автоматично переключиться на звичний пошук по налаштуваннях.

Незважаючи на малий розмір, Mu демонструє результати, близькі до більших моделей. Наприклад, у тестах на генерацію коду її точність (93,4%) майже не поступилася моделі Phi-3.5-mini (93%), яка в 10 разів більша. При цьому Відгук практично миттєвий, адже дані не потрібно гонити в хмару і назад, а найголовніше все обробляється на пристрої, що підвищить рівень безпеки.

Mu стане частиною майбутніх оновлень Windows 11 і буде доступна користувачам, у яких є комп'ютери з чіпами Copilot+ (оснащеними NPU). Зараз функція тестується у версіях для розробників (Windows Insiders Dev Channel). Цей крок Microsoft демонструє зростаючий тренд на «локальний ІІ» — розумні помічники, які працюють швидко, приватно і без постійного зв'язку з інтернетом. Можливо, незабаром копирсатися в складних меню налаштувань стане справою минулого.

🫡 Оцениваем обновлённую сцену с легендарным мемом из Metal Gear Solid 3
    Коментарі13
    Залишити коментар
    2 місяці
    Так и придется сидеть в будущем на винтажном компьютере со старой ОС какой-нибудь. Эти ИИ-свистоперделки уже утомили, везде пихают.
    Відповісти
    2 місяці
    Несмотря на малый размер Mu
    Так какой же размер то ?
    Відповісти
    2 місяці
    Прямого ответа на это вопрос нет, упоминается, что она меньше, чем Phi-3.5-mini в 10 раз
    Відповісти
    2 місяці
    А у Phi-3.5-mini какой размерчик?
    Відповісти
    2 місяці
    3,8 млрд параметров или интересует занимаемое место на жестком?
    Відповісти
    2 місяці
    Да именно место на жестком
    Відповісти
    2 місяці
    около 8 гиг у Phi-3.5-mini
    Відповісти
    2 місяці
    Так сразу Винда потяжелеет на 1 Гиг.
    Відповісти
    2 місяці
    Элитарные пользователи посоветуют сэкономить на завтраках и проапгредить комп 😀
    Відповісти
    2 місяці
    Довольно удобно. Глядишь и скоро каждый сможет настроить своего Джарвиса. Главное чтоб данные куда не надо не сливал
    Відповісти
    2 місяці
    Ну обещают они, что работать локально будет, но обещать много можно.
    Відповісти
    2 місяці
    Это да. Потом нужно смотреть через доп инструменты, будет ли она куда то данные отправлять или нет. По любому где то будет галочка о "помощи в улучшении модели"
    Відповісти
    2 місяці
    ИИ неизбежен, скоро и в обувь буду встраивать.
    Відповісти