Hugging Face、AnyLanguageModel 1.0とswift-huggingface 1.0、swift-xet 1.0を公開

AnyLanguageModelは昨年11月にこのブログで紹介されたライブラリで、Foundation Models APIのままアプリが使うモデルとプロバイダーを選べる。ローカルモデルに関心はあるが始め方が分からない、複数の推論プロバイダー対応の複雑さを避けたい、という開発者の声から生まれたという。この1年で数十回のリリースを重ね、今回1.0に到達した。

この1年で追加された主な機能は、全プロバイダーで動作するツール呼び出しとガイド付き生成である。ガイド付き生成はネストした `@Generable` 型やその配列にも対応する。画像対応ではFoundation Models 27の記法でプロンプトに画像を添付でき、iOS、macOS、visionOS 27のシステムモデルでも使える。OS 27ではFoundation ModelsのLanguageModelプロトコルに準拠する任意のモデルにも対応し、Core AIモデルも含まれる。

ホスト型では、OpenAIのChat CompletionsとResponses API、Open Responses、AnthropicのMessages API、Google Gemini API、Ollama、OS 27のPrivate Cloud Compute、Hugging Face Inference ProvidersやOpenRouterなどOpenAI互換エンドポイントに対応する。Inference Providersを使えば、端末では動かせない大きなオープンウェイトモデルも同じセッションコードで呼べる。ホスト型でもガイド付き生成、ストリーミング付きツール呼び出し、トークン使用量の取得が使える。推論ブロックはトランスクリプトに含まれ、再送できないプロバイダーへ切り替えると自動的に除外される。APIキーは文字列ではクロージャで渡すため、自前サーバーから短期トークンを取得できる。Linuxでも動作する。

ローカルで使えるモデルとして、Gemma 4 E2B（GGUF、Q4_0で約3.4 GB）、LFM2.5 2.6B（GGUF、Q4_K_Mで約1.7 GB）、Qwen3.8 27BのMLX版（4ビットで約16 GB）が挙げられている。前の2つはiPhoneに収まり、Qwen3.8 27BはメモリーMac 32 GB以上で動く。今後は、判断するモデルと音声を聞き取るモデルへの対応を予告している。