PrismML komprimiert das Qwen3.6-27B-Modell auf 4 GB und führt es auf dem iPhone aus

PrismML hat das von Alibaba entwickelte Open-Source-Modell Qwen3.6-27B auf weniger als 4 GB komprimiert und es auf dem iPhone 17 Pro zum Laufen gebracht. Qwen3.6-27B ist ein dichtes Modell mit 27 Milliarden Parametern, bei dem alle Parameter während der Inferenzberechnet werden. PrismML gibt an, dass die Modellgröße von etwa 54 GB auf 4 GB komprimiert wurde, ohne dass die Leistung merklich beeinträchtigt wurde, und es eignet sich für komplexe Dialoge, Inferenz, Agenten und Programmieraufgaben. Apple hat Kontakt zu PrismML aufgenommen, um zu besprechen, wie diese Technologie lokal auf Geräten angewendet werden kann, obwohl der fortschrittliche Siri weiterhin auf Cloud-Modelle angewiesen ist.