Ab dem kommenden Betriebssystem macOS 26 (Code-Name Tahoe) integriert Apple ein lokales Sprachmodell direkt in jede Mac-Hardware mit eigener Silicon-Chip-Architektur. Diese Technologie ist ein zentraler Bestandteil der Apple Intelligence-Plattform und wird ausschließlich über das FoundationModels-Framework für Anwendungen bereitgestellt. Die Verarbeitung findet ausschließlich auf der Hardware statt, genauer gesagt auf dem Neural Engine und der GPU des Geräts. Es sind keine Netzwerkverbindungen, Cloud-Dienste oder API-Schlüssel erforderlich. Das Modell steht sofort nach der Installation zur Verfügung. Standardmäßig nutzen Apple nur die Siri-Funktion, Schreibwerkzeuge und andere Systemmerkmale diese On-Device-Kapazität. Obwohl das Framework existiert, gibt es derzeit keine Möglichkeit, über einen Terminalbefehl oder eine HTTP-Schnittstelle direkt mit dem Modell zu interagieren. Um Entwicklerzugriff zu ermöglichen, müssten sie Swift-Anwendungen schreiben. Die Open-Source-Software namens „apfel" schließt diese Lücke. Es handelt sich um ein binaries Swift-6.3-Programm, das die LanguageModelSession-API umhüllt und dem Nutzer den Zugriff auf drei verschiedene Arten ermöglicht. Der erste Zugangspunkt ist ein UNIX-Command-Line-Tool, das Daten über Eingabe- und Ausgabe Streams weiterleitet. Dies ermöglicht eine nahtlose Integration in bestehende Skripte und Workflow-Automatisierungen. Der zweite Modus ist ein HTTP-Server, der der OpenAI-API entspricht. Dieser läuft auf der Hummingbird-Bibliothek und erlaubt es externen Programmen, Anfragen im bekannten OpenAI-Format zu stellen. Der dritte Modus ist ein interaktiver Chat, der Kontextmanagement bietet, um den Dialog flüssig zu gestalten. Im Gegensatz zur rohen Apple-API bietet apfel entscheidende Funktionen, die für die praktische Nutzung unerlässlich sind. Dazu gehören korrekte Exit-Codes für die Fehlerbehandlung, strukturierte JSON-Ausgaben und die Fähigkeit, Dateianhänge zu verarbeiten. Eine der größten Herausforderungen bei lokalen Modellen ist die begrenzte Kontextmenge. Das Apple-Modell verfügt über einen Fenster von 4096 Token. apfel löst dieses Problem durch fünf verschiedene Strategien zur Kontext-Beschneidung, die sicherstellen, dass relevante Informationen priorisiert werden, während der Text die Grenze einhält. Zusätzlich bietet die Software eine Echtzeit-Token-Zählung über das SDK, was Entwicklern hilft, die Leistung und Kosten (falls relevant) zu überwachen. Ein weiterer wichtiger Punkt ist die Kompatibilität mit externen Tools. apfel konvertiert automatisch OpenAI-Tool-Schemata in Apples natives Format namens Transcript.ToolDefinition. Dies ermöglicht es, dass Anwendungen, die für externe APIs geschrieben wurden, nahtlos mit dem lokalen Apple-Modell kommunizieren können, ohne dass komplexe Anpassungen erforderlich sind. Durch diese Umwandlung wird die On-Device-KI von einem geschlossenen System für die interne Nutzung zu einer zugänglichen Ressource für Entwickler. Sie erlaubt es, lokale KI-Funktionen direkt in Workflows zu integrieren, ohne Datenschutzbedenken oder Latenzzeiten durch Cloud-Verbindungen. Damit eröffnet apfel den Entwicklern neue Möglichkeiten, die Privatsphäre und Leistung lokaler Apple-Hardware voll auszunutzen. Die Software demonstriert, wie Open-Source-Initiativen die Lücke zwischen proprietären Betriebssystemfunktionen und praktischer Anwendbarkeit schließen können, indem sie Standard-APIs und Schnittstellen bereitstellen, die die Community gewohnt ist. Dies ist ein wichtiger Schritt, um die lokalen KI-Funktionen von Apple für einen breiteren Anwendungshorizont nutzbar zu machen.