概要 Capsule

Capsule は Naviorx エコシステムの中核ランタイムエンジンです。AI モデルをあなたのハードウェア上でローカルに実行します — クラウド不要、API キー不要、レイテンシ不要。プロダクショングレードの推論向けに設計された Capsule は、複数のモデル形式（GGUF、ONNX、CoreML）をサポートし、ハードウェア（CPU、GPU、NPU）に最適なバックエンドを自動選択します。ゼロコピーメモリアーキテクチャはモデルレイヤー間の冗長な割り当てを排除し、クラウドホストソリューションに匹敵するスループットを — 完全にあなたのデバイス上で実現します。

機能

• マルチバックエンド推論（CPU、GPU（Metal/CUDA/Vulkan）、NPU）
• GGUF、ONNX、CoreML 形式対応
• 設定可能なチャンクサイズでのトークンストリーミング
• スループット最適化のための適応バッチ処理
• ゼロコピーメモリアーキテクチャ
• CLI およびプログラム API インターフェース