"Mu" Microsoftu napędzi więcej ulepszeń w Windows 11

Microsoft wprowadza nowy model językowy Mu w Windows 11, optymalizujący działanie na urządzeniach z ograniczoną mocą, zapewniając szybsze i bardziej dostępne zarządzanie ustawieniami.

Duże modele językowe (LLM) są na ustach wszystkich, ale małe modele językowe są również ważne dla niektórych zadań, szczególnie na urządzeniach o ograniczonej mocy, takich jak telefony i laptopy. Microsoft właśnie ujawnił swój nowy model językowy Mu, który już zasila niektóre funkcje systemu Windows 11.

Microsoft już wykorzystuje mały model językowy zwany Phi Silica w systemie Windows 11, umożliwiając działanie funkcji Copilot+ PC bez spowolnień na chipach takich jak Snapdragon X Plus. Popularne chatboty AI, takie jak ChatGPT, Copilot i Gemini korzystają z bardziej zaawansowanych LLM, które wymagają potężnych GPU, ale mniejsze modele, takie jak Phi Silica i Mu, mogą osiągnąć podobne wyniki przy ułamku mocy obliczeniowej, kosztem mniejszej wszechstronności.

Mu to „mikroskopijny, specyficzny dla zadania model językowy” zaprojektowany do efektywnego działania na jednostce przetwarzania neuronowego, lub NPU, jak te znajdujące się w ostatnich komputerach Copilot+ PC. Microsoft zastosował wiele różnych technik optymalizacji, aby osiągnąć wysoką wydajność przy ograniczonej mocy, w tym architekturę transformatora kodera-dekodera, dzielenie wag w niektórych komponentach w celu zmniejszenia całkowitej liczby parametrów oraz korzystanie tylko z operacji przyspieszanych sprzętowo. Microsoft twierdzi, że Mu może działać z prędkością ponad 200 tokenów na sekundę na Surface Laptop 7, co daje szybszą odpowiedź niż zazwyczaj można otrzymać z bezpłatnych wersji ChatGPT lub Gemini w przeglądarce internetowej.

Model Mu jest wykorzystywany najpierw w pasku wyszukiwania w aplikacji ustawień systemu Windows 11, która została niedawno wdrożona dla Insiderów Windows na komputerach Snapdragon. Może rozumieć zapytania takie jak „jak kontrolować mój komputer głosowo” lub „mój wskaźnik myszy jest zbyt mały” i zlokalizować odpowiednie ustawienie. Nie jest jasne, czy Mu będzie wykorzystywane do innych funkcji Copilot+ PC.

Microsoft napisał w poście na blogu: „Zarządzanie rozbudowaną gamą ustawień Windows stanowiło swoje własne wyzwania, szczególnie w przypadku nakładających się funkcji. Na przykład proste zapytanie takie jak „Zwiększ jasność” może dotyczyć wielu zmian ustawień – jeśli użytkownik ma dwa monitory, czy to oznacza zwiększenie jasności dla monitora głównego czy dodatkowego? Aby temu zaradzić, udoskonaliliśmy nasze dane treningowe, aby priorytetowo traktować najczęściej używane ustawienia podczas ciągłego doskonalenia doświadczenia w bardziej złożonych zadaniach.”

Modele językowe o niewielkich rozmiarach, które działają lokalnie, są jednymi z najlepszych zastosowań generatywnej AI, ponieważ responsywność i prywatność danych są znacznie łatwiejsze do osiągnięcia, gdy nie są zaangażowane serwery w chmurze. To jednak nie powstrzymało Recall przed bliskim byciem katastrofą bezpieczeństwa.

Źródło: Blog Windows

Jeśli ciekawią Cię artykuły podobne do "Mu" Microsoftu napędzi więcej ulepszeń w Windows 11, zajrzyj do kategorii Windows i odkryj jeszcze więcej interesujących treści.