Google почала впроваджувати інструменти для інтеграції генеративного ШІ прямо в мобільні додатки — без залежності від хмарних серверів. В оновлений ML Kit SDK додана підтримка Gemini Nano, компактної мовної моделі, яка працює виключно на пристрої. Це дозволить створювати функції на зразок коротких текстових підсумків, перефразування або опису зображень, зберігаючи дані користувача в безпеці.
Головна перевага підходу — конфіденційність. Усе, від введення запиту до отримання результату, обробляється локально. Наприклад, підсумки сповіщень або редагування тексту зможуть працювати навіть без інтернету. Однак можливості Gemini Nano скромніші за хмарні аналоги: текстові виводи обмежені трьома пунктами, а опис картинок поки доступний лише англійською. Крім того, продуктивність залежить від версії моделі: найлегша (XXS) займає близько 25 МБ і працює тільки з текстом, тоді як стандартна (XS) вимагає 100 МБ пам'яті.
Наразі модель підтримується на Google Pixel 9a, Samsung Galaxy S25, Xiaomi 15 та інших флагманах. Список пристроїв буде розширюватися, як і набір додатків з локальним ШІ. Розробники вже можуть тестувати API в бета-версії, але слід врахувати обмеження: додаткам виділяється квота на запити, а фонові завдання блокуються. Наприклад, якщо користувач згорне програму, ШІ-функції призупиняться.
Цікаво, що Google не перша намагається впровадити локальний ШІ: Qualcomm і MediaTek пропонують свої рішення, але їх складно адаптувати під різні пристрої. Gemini Nano через ML Kit спрощує задачу — розробникам не потрібно створювати моделі з нуля або оптимізувати їх під кожне залізо. Тим не менш, масовому поширенню заважає нестача обчислювальної потужності у багатьох смартфонах.
Практична користь технології вже видна: наприклад, Pixel аналізує скріншоти прямо на пристрої, а Motorola Razr Ultra генерує підсумки сповіщень офлайн. З виходом Gemini Nano такі функції можуть стати стандартом, але для їх стабільної роботи знадобиться час — як з боку розробників, так і виробників заліза.