Źródło: unsplash.com/photos/LBCddW34Ivw
Apple odświeżyło komputery Mac mini i Mac Studio, a w komunikacji wokół nowych wersji mocno akcentuje uruchamianie modeli AI bezpośrednio na urządzeniu. Mac mini jest dostępny z układami M6 i M5 Pro, natomiast Mac Studio otrzymał układy M5 Max oraz M5 Ultra. Producent podkreśla dużą pojemność i przepustowość pamięci zunifikowanej, co ma znaczenie przy pracy z dużymi modelami językowymi. Nie jest to jednak premiera całkowicie nowych konstrukcji. Według opisu Ars Technica aktualizacje są przede wszystkim zmianą specyfikacji.
Nowe Mac mini i Mac Studio są przedstawiane jako urządzenia do lokalnego uruchamiania modeli AI, a nie tylko komputery do typowych zadań biurowych lub kreatywnych. Chodzi o tak zwane wnioskowanie lokalne, czyli wykonywanie obliczeń bezpośrednio na sprzęcie użytkownika, bez konieczności korzystania z chmury. Duża pamięć zunifikowana i jej wysoka przepustowość mają ułatwiać pracę z modelami, które mogą być zbyt wymagające dla pojedynczego popularnego komputera. Użytkownicy mogą łączyć kilka Maców mini lub Maców Studio, tworząc zestaw do wnioskowania rozproszonego. Takie podejście jest alternatywą dla bardzo wydajnych konfiguracji wyposażonych w wyspecjalizowane układy graficzne Nvidii.
Istotnym elementem tego kierunku była aktualizacja macOS 26.2 wydana w grudniu poprzedniego roku. W notatkach do wydania Apple wskazało obsługę komunikacji o niskich opóźnieniach między hostami Thunderbolt 5 dla zastosowań obejmujących wnioskowanie rozproszone z użyciem MLX. Thunderbolt 5 zapewnia szybkie przewodowe połączenie, a MLX jest otwartym frameworkiem tablicowym przeznaczonym do przepływów pracy związanych z uczeniem maszynowym. Jego zadaniem jest między innymi lepsze wykorzystanie pamięci zunifikowanej układów z serii M. Po tej zmianie łączenie komputerów Apple zaczęło przyciągać hobbystów, deweloperów, profesjonalistów i badaczy pracujących z lokalnymi modelami językowymi.
Słownik artykułu
Krótkie objaśnienia terminów występujących w tekście. Każde hasło prowadzi do szerszej definicji i przykładów użycia.
Uruchamianie gotowego modelu AI bezpośrednio na lokalnym komputerze, zamiast wysyłania danych do usługi działającej w chmurze.
Otwarty framework tablicowy zaprojektowany z myślą o przepływach pracy uczenia maszynowego na układach Apple.
Model organizacji pamięci, w którym różne jednostki układu, takie jak CPU i GPU, korzystają ze wspólnej puli pamięci. Ogranicza to potrzebę kopiowania danych między oddzielnymi obszarami pamięci.
Wykonywanie obliczeń związanych z działaniem modelu AI na kilku połączonych komputerach.
Brak komentarzy. Bądź pierwszy!
