// HEISE ONLINE — MOBILE & WEB
heise+ | Mit Apples JACCL-Bibliothek richtig große LLMs auf Mac-Clustern betreiben
Mit der Kommunikationsbibliothek JACCL liefert Apple den letzten fehlenden Baustein, um LLMs mit Billionen Parametern auf Mac-Clustern auszuführen.
Noch vor Kurzem war die Inferenz und das Feintuning sehr großer Sprachmodelle eine exklusive Domäne spezialisierter Nvidia-Grafikbeschleuniger in Rechenzentren, oft genug denen großer Cloud-Anbieter. Systeme mit Hunderten Milliarden oder gar Billionen von Parametern sprengten schlicht die Kapazitäten lokaler Workstations. Mit den Entwicklungen rund um das MLX-Framework und mlx.distributed, seine Erweiterung für verteilte Systeme, bricht Apple diese Phalanx auf. Die Technik verwandelt zusammengeschaltete Mac-Systeme in Compute-Cluster, die nicht nur sehr große Foundation Models bewältigen, sondern auch anspruchsvolle numerische Workloads aus Wissenschaft und Technik lokal ausführen können.
Heimspeicher nach Tiefentladung tot — wie ich mit einem 6-Euro-Debugger und KI-unterstütztem Reverse Engineering den Software-Lockout geknackt habe.
Wir blicken hinter die Preisschilder und klären, was die Kosten verschiedener KI-Aufgaben beeinflusst und wo Nutzer am geschicktesten sparen können.
Hersteller bieten E-Autos oft mit unterschiedlichen Batterietypen an. LFP-Zellen sind langlebiger und günstiger, NMC-Zellen bieten mehr Reichweite.
KI verhält sich nicht so, wie sie soll. Das ist kein Beweis für übermenschliche Fähigkeiten, sondern allzu naives Training. Eine technische Analyse.
Zwar sind große Neuerungen rar gesät, doch iOS und iPadOS 27 stecken voller Verbesserungen im Detail. 20 Tipps zu den nützlichsten neuen Features.
Der Epiq dürfte Skodas Erfolge bei den E-Auto-Verkaufszahlen weiter ausbauen. Denn viel zu kritisieren bleibt nicht, wie ein erster Ausflug zeigt.
Alle Themen der kommenden iX im Überblick. Erscheint monatlich.
Ausführliche Informationen zum Versandverfahren und zu Ihren
Widerrufsmöglichkeiten erhalten Sie in unserer
Datenschutzerklärung.