Untethered LLM · मॉडल गाइड
iPhone के लिए बेस्ट छोटे AI मॉडल (GGUF) | Untethered LLM
नीचे हर मॉडल 6B पैरामीटर या उससे छोटा है और llama.cpp के साथ चलता है, वही रनटाइम जो ऐप के अंदर है। Huihui Qwen3 4B Abliterated Untethered LLM के साथ डिफ़ॉल्ट के तौर पर पहले से आता है, और Qwen3 4B दूसरे बंडल मॉडल के रूप में; इस लिस्ट का कोई भी और मॉडल GGUF फ़ाइल के तौर पर इम्पोर्ट किया जा सकता है। साइज़ अनुमानित हैं, और रैम के आंकड़े बताते हैं कि फ़ोन में कितनी फ़्री जगह चाहिए।
| मॉडल | साइज़ और ज़रूरतें | नोट्स |
|---|---|---|
| Qwen3 4B Qwen/Qwen3-4B-GGUF |
4B · Q5_K_M · ~2.9 GB · 8 GB+ iPhones | A top all-round iPhone model that also ships with the app as the second bundled model: strong chat, reasoning, and tool use. |
| Gemma 3 4B unsloth/gemma-3-4b-it-GGUF |
4B · Q4_K_M · ~2.5 GB · 8 GB+ iPhones | Google's efficient 4B instruction model; clean answers and good multilingual coverage. |
| Phi-4 Mini unsloth/Phi-4-mini-instruct-GGUF |
3.8B · Q4_K_M · ~2.4 GB · 8 GB+ iPhones | Microsoft's compact reasoner; strong math and step-by-step tasks. |
| Llama 3.2 3B unsloth/Llama-3.2-3B-Instruct-GGUF |
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones | Meta's small chat model; a balanced pick for older iPhones. |
| Qwen2.5 3B Qwen/Qwen2.5-3B-Instruct-GGUF |
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones | Previous-generation Qwen; fast and reliable for everyday chat. |
| Qwen3 1.7B Qwen/Qwen3-1.7B-GGUF |
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones | Tiny and quick; best for background use and low-memory devices. |
| SmolLM2 1.7B HuggingFaceTB/SmolLM2-1.7B-Instruct-GGUF |
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones | Featherweight Hugging Face model; sips battery and memory. |
| DeepSeek-R1 Distill 1.5B lmstudio-community/DeepSeek-R1-Distill-Qwen-1.5B-GGUF |
1.5B · Q4_K_M · ~1.0 GB · 6 GB+ iPhones | Reasoning-distilled for puzzles and logic; thinks before answering. |
कानूनी
कानूनी मानचित्र
ऐप की अपनी नीतियां बंडल किए गए तृतीय-पक्ष सॉफ़्टवेयर और मॉडल लाइसेंस से अलग रहती हैं, लेकिन स्पष्टता के लिए ये पृष्ठ एक-दूसरे से जुड़े हुए हैं।