Untethered LLM · Model kılavuzu

iPhone için En İyi Küçük Yapay Zekâ Modelleri (GGUF) | Untethered LLM

Aşağıdaki her model 6B parametre veya daha küçüktür ve uygulamanın içindeki çalışma zamanıyla aynı olan llama.cpp ile çalışır. Huihui Qwen3 4B Abliterated, Untethered LLM ile varsayılan olarak birlikte gelir; Qwen3 4B ikinci yerleşik model olarak eşlik eder; listedeki diğer her şey GGUF dosyası olarak içe aktarılabilir. Boyutlar yaklaşıktır; RAM değerleri telefonun boş olması gereken miktardır.

iPhone sınıfı RAM bütçelerine göre denetlenmiş sekiz model
Model Boyut ve ihtiyaçlar Notlar
Qwen3 4B
Qwen/Qwen3-4B-GGUF
4B · Q5_K_M · ~2.9 GB · 8 GB+ iPhones A top all-round iPhone model that also ships with the app as the second bundled model: strong chat, reasoning, and tool use.
Gemma 3 4B
unsloth/gemma-3-4b-it-GGUF
4B · Q4_K_M · ~2.5 GB · 8 GB+ iPhones Google's efficient 4B instruction model; clean answers and good multilingual coverage.
Phi-4 Mini
unsloth/Phi-4-mini-instruct-GGUF
3.8B · Q4_K_M · ~2.4 GB · 8 GB+ iPhones Microsoft's compact reasoner; strong math and step-by-step tasks.
Llama 3.2 3B
unsloth/Llama-3.2-3B-Instruct-GGUF
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones Meta's small chat model; a balanced pick for older iPhones.
Qwen2.5 3B
Qwen/Qwen2.5-3B-Instruct-GGUF
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones Previous-generation Qwen; fast and reliable for everyday chat.
Qwen3 1.7B
Qwen/Qwen3-1.7B-GGUF
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones Tiny and quick; best for background use and low-memory devices.
SmolLM2 1.7B
HuggingFaceTB/SmolLM2-1.7B-Instruct-GGUF
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones Featherweight Hugging Face model; sips battery and memory.
DeepSeek-R1 Distill 1.5B
lmstudio-community/DeepSeek-R1-Distill-Qwen-1.5B-GGUF
1.5B · Q4_K_M · ~1.0 GB · 6 GB+ iPhones Reasoning-distilled for puzzles and logic; thinks before answering.

Yasal harita

Uygulamanın kendi politikaları, paketlenmiş üçüncü taraf yazılımlardan ve paketlenmiş modellerin lisans koşullarından ayrıdır; ancak aşağıdaki sayfalar açıklık için birbirine bağlanır.

Uygulama politikalarımız

Üçüncü taraf politikaları