Untethered LLM / Modell-Guide
Beste kleine KI-Modelle fuer iPhone (GGUF) | Untethered LLM
Jedes Modell unten hat hoechstens 6B Parameter und laeuft mit llama.cpp, derselben Laufzeit wie in der App. Huihui Qwen3 4B Abliterated ist als Standard in Untethered LLM bereits enthalten, Qwen3 4B als zweites gebuendeltes Modell; alles andere auf dieser Liste kann als GGUF-Datei importiert werden. Groessen sind ungefaehr, und die RAM-Werte geben an, wie viel Speicher das Telefon frei braucht.
| Modell | Groesse & Bedarf | Hinweise |
|---|---|---|
| Qwen3 4B Qwen/Qwen3-4B-GGUF |
4B · Q5_K_M · ~2.9 GB · 8 GB+ iPhones | A top all-round iPhone model that also ships with the app as the second bundled model: strong chat, reasoning, and tool use. |
| Gemma 3 4B unsloth/gemma-3-4b-it-GGUF |
4B · Q4_K_M · ~2.5 GB · 8 GB+ iPhones | Google's efficient 4B instruction model; clean answers and good multilingual coverage. |
| Phi-4 Mini unsloth/Phi-4-mini-instruct-GGUF |
3.8B · Q4_K_M · ~2.4 GB · 8 GB+ iPhones | Microsoft's compact reasoner; strong math and step-by-step tasks. |
| Llama 3.2 3B unsloth/Llama-3.2-3B-Instruct-GGUF |
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones | Meta's small chat model; a balanced pick for older iPhones. |
| Qwen2.5 3B Qwen/Qwen2.5-3B-Instruct-GGUF |
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones | Previous-generation Qwen; fast and reliable for everyday chat. |
| Qwen3 1.7B Qwen/Qwen3-1.7B-GGUF |
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones | Tiny and quick; best for background use and low-memory devices. |
| SmolLM2 1.7B HuggingFaceTB/SmolLM2-1.7B-Instruct-GGUF |
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones | Featherweight Hugging Face model; sips battery and memory. |
| DeepSeek-R1 Distill 1.5B lmstudio-community/DeepSeek-R1-Distill-Qwen-1.5B-GGUF |
1.5B · Q4_K_M · ~1.0 GB · 6 GB+ iPhones | Reasoning-distilled for puzzles and logic; thinks before answering. |
Recht
Rechtsuebersicht
Die eigenen Richtlinien der App bleiben von den Lizenzbedingungen gebuendelter Drittanbieter-Software und Modelle getrennt. Diese Seiten verlinken sie trotzdem zusammen, damit der Zusammenhang klar bleibt.