Ktoś przerobił swój telefon na działający zewnętrzny procesor graficzny

Ktoś przerobił swój telefon na działający zewnętrzny procesor graficzny

Użytkownik Reddita odkrył, jak zamienić iPhone'a 17 Pro Max w zewnętrzne GPU dla MacBooka Pro M4, znacząco przyspieszając procesy AI.

Droga do wzmocnienia komputera nie prowadzi już wyłącznie przez drogie obudowy na karty graficzne – równie dobrze może prowadzić przez kieszeń. Użytkownik Reddita, znany jako StayLameBro, odkrył sposób na wykorzystanie swojego iPhone'a 17 Pro Max jako zewnętrznego GPU, wspierającego MacBooka Pro M4.

Nowy projekt angażuje model AI (tutaj Qwen 3.8 27B), podzielając zadania pomiędzy Maca a iPhone'a. Laptop przejmuje pierwsze 40 warstw każdej partii tokenów AI, iPhone przejmuje resztę. Gdy liczba tokenów przekracza 64 000, Mac radzi sobie ze wszystkimi warstwami, a iPhone skupia się na starszych wartościach kluczy, czyli na etykietach i odpowiadających im danych.

Mac dynamicznie przydziela 8-bitowy kontekst – zestaw danych i pamięci – w oparciu o dostępność RAM w iPhone, co pozwala efektywnie zarządzać pamięcią komputera. Co więcej, telefon wyręcza przy wstępnych uzupełnieniach, przetwarzając dane tokenów powyżej 512.

Wzrost prędkości jest zauważalny. Przy wprowadzaniu pliku z 2 000 tokenami do aktywnej sesji, połączenie MacBooka z iPhone'em jest od 29% do 44% szybsze niż sam Mac. Podczas uruchamiania nowej sesji agenta z 27 000 tokenami, przyspieszenie waha się od 36% dla forkowanego kodu llama.cpp do 46% w konfrontacji z bazowym oprogramowaniem.

Kod, proces konfiguracji i benchmarki są dostępne na GitHubie. Wystarczy standardowy kabel USB-C 10Gbps, by połączyć się z Maciem, ale potrzebujesz przynajmniej iPhone'a 15 Pro. iPhone 18 Pro ma mieć "dużo większy" zapas, jak zaznacza twórca.

Jakie problemy mogę mieć, używając telefonu jako zewnętrznego GPU?

Modele AI i prędkości zapisu to skutki

Użycie iPhone'a jako zewnętrznego GPU nie rozwiąże wszystkich wyzwań. StayLameBro zwraca uwagę, że telefon nie poprawia wydajności zapisu poniżej 64 000 tokenów – tym zajmuje się komputer.

Nie testował nowych modeli AI, takich jak Qwen 3.8-Flash-Next i DeepSeek V4.1-Flash, więc nie można zakładać, że iPhone będzie tak samo użyteczny w tych przypadkach. Brak wzmianki o Androidzie czy Windowsie sprawia, że to rozwiązanie jest dedykowane wyłącznie użytkownikom Apple.

Jednak ten projekt dostarcza ciekawych możliwości w zakresie wykorzystania telefonów do obliczeń. Choć efekty nie dorównają tym osiąganym przez solidne karty graficzne, mogą znacząco przyspieszyć procesy AI, gdy liczy się każda sekunda.

Jeśli ciekawią Cię artykuły podobne do Ktoś przerobił swój telefon na działający zewnętrzny procesor graficzny, zajrzyj do kategorii IOS i odkryj jeszcze więcej interesujących treści.

Indeks
  1. Jakie problemy mogę mieć, używając telefonu jako zewnętrznego GPU?
    1. Modele AI i prędkości zapisu to skutki

Możesz być zainteresowany

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Wymagane pola są oznaczone *

Go up