Untethered LLM · मॉडेल मार्गदर्शक
iPhone साठी सर्वोत्तम लहान AI मॉडेल्स (GGUF) | Untethered LLM
खालील प्रत्येक मॉडेल 6B पॅरामीटर्स किंवा त्याहून लहान आहे आणि अ‍ॅपमधील त्याच रनटाइम llama.cpp सह चालते. Huihui Qwen3 4B Abliterated बिल्ट-इन डीफॉल्ट म्हणून Untethered LLM सोबत येते, Qwen3 4B दुसरे बंडल मॉडेल म्हणून; या यादीतील बाकी काहीही GGUF फाइल म्हणून इम्पोर्ट करता येते. आकार अंदाजे आहेत, आणि RAM आकडे म्हणजे फोनमध्ये किती जागा मोकळी हवी.
| मॉडेल | आकार व गरजा | नोंदी |
|---|---|---|
| Qwen3 4B Qwen/Qwen3-4B-GGUF |
4B · Q5_K_M · ~2.9 GB · 8 GB+ iPhones | A top all-round iPhone model that also ships with the app as the second bundled model: strong chat, reasoning, and tool use. |
| Gemma 3 4B unsloth/gemma-3-4b-it-GGUF |
4B · Q4_K_M · ~2.5 GB · 8 GB+ iPhones | Google's efficient 4B instruction model; clean answers and good multilingual coverage. |
| Phi-4 Mini unsloth/Phi-4-mini-instruct-GGUF |
3.8B · Q4_K_M · ~2.4 GB · 8 GB+ iPhones | Microsoft's compact reasoner; strong math and step-by-step tasks. |
| Llama 3.2 3B unsloth/Llama-3.2-3B-Instruct-GGUF |
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones | Meta's small chat model; a balanced pick for older iPhones. |
| Qwen2.5 3B Qwen/Qwen2.5-3B-Instruct-GGUF |
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones | Previous-generation Qwen; fast and reliable for everyday chat. |
| Qwen3 1.7B Qwen/Qwen3-1.7B-GGUF |
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones | Tiny and quick; best for background use and low-memory devices. |
| SmolLM2 1.7B HuggingFaceTB/SmolLM2-1.7B-Instruct-GGUF |
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones | Featherweight Hugging Face model; sips battery and memory. |
| DeepSeek-R1 Distill 1.5B lmstudio-community/DeepSeek-R1-Distill-Qwen-1.5B-GGUF |
1.5B · Q4_K_M · ~1.0 GB · 6 GB+ iPhones | Reasoning-distilled for puzzles and logic; thinks before answering. |
कायदेशीर
कायदेशीर नकाशा
अ‍ॅपची स्वतःची धोरणे बंडल थर्ड-पार्टी सॉफ्टवेअर आणि बंडल मॉडेल लायसन्स अटींपासून वेगळी आहेत, पण स्पष्टतेसाठी खालील पेजे एकमेकांशी लिंक करतात.