Apple は macOS 26（コードネーム：Tahoe）から、Apple Silicon搭載のすべてのMacにオンデバイス型大規模言語モデル（LLM）を搭載した「Apple Intelligence」機能を導入すると発表しました。このモデルはFoundationModelsというSwiftフレームワークを通じてアプリに公開され、すべての推論処理をNeural EngineやGPU上で行うため、ネットワークへの接続やクラウド、APIキーが不要な完全なローカル動作を実現します。現状ではこの機能はSiriや文章作成支援ツールなどシステムの基盤機能に限定されており、一般ユーザーが直接コマンドラインやHTTPエンドポイントを通じてテキストを入力し、その能力を自由に利用する方法は用意されていません。 しかし、開発者向けのツール「apfel」が、このAppleのオンデバイスモデルを一般化し、自由に活用するための手段を提供しています。apfelはSwift 6.3でビルドされたバイナリであり、Appleの内部APIであるLanguageModelSessionをラップすることで、モデルの能力を三つの異なる形で利用可能にします。一つは標準入出力（stdin/stdout）を備えたUNIXコマンドラインツールとしての利用で、他のプログラムからテキストをパイプライン処理できます。二つ目はOpenAIのAPI仕様に互換性のあるHTTPサーバーとして動作する機能で、Hummingbirdフレームワークを基盤に構築されています。三つ目は、コンテキストを管理しながら対話できるインタラクティブなチャット環境です。 Appleの生きているAPIだけでは対応できない課題を解決するため、apfelは適切な終了コードの出力やJSON形式での結果返却、ファイル添付機能などを追加しています。特に重要なのは、オンデバイスモデルのコンテキストウィンドウが比較的狭い4096トークンに制限されている点への対応です。apfelは五種類のコンテキストトリミング戦略を提供し、必要な情報だけを効率的に保持しつつモデルへの入力を行います。また、SDKを活用した正確なトークン数カウント機能や、外部のOpenAIツール定義をAppleネイティブのTranscript.ToolDefinition形式へ変換する機能も実装されています。これにより、開発者はネットワークを介さずに、プライバシーを損なうことなく、強力なAIモデルをローカル環境で開発・テスト・活用できるようになります。