Untethered LLM · মডেল নির্দেশিকা

iPhone-এর জন্য সেরা ছোট AI মডেল (GGUF) | Untethered LLM

নিচের প্রতিটি মডেল 6B প্যারামিটার বা ছোট, আর llama.cpp দিয়ে চলে — অ্যাপের ভেতরের একই রানটাইম। Huihui Qwen3 4B Abliterated ইতিমধ্যে ডিফল্ট হিসেবে Untethered LLM-এর সঙ্গে আছে, আর Qwen3 4B দ্বিতীয় বান্ডেল মডেল হিসেবে; তালিকার বাকি সব GGUF ফাইল হিসেবে আমদানি করা যায়। আকার আনুমানিক, আর RAM সংখ্যা মানে ফোনে কতটা খালি থাকা দরকার।

iPhone-শ্রেণির RAM বাজেটে যাচাই করা আটটি মডেল
মডেল আকার ও প্রয়োজন মন্তব্য
Qwen3 4B
Qwen/Qwen3-4B-GGUF
4B · Q5_K_M · ~2.9 GB · 8 GB+ iPhones A top all-round iPhone model that also ships with the app as the second bundled model: strong chat, reasoning, and tool use.
Gemma 3 4B
unsloth/gemma-3-4b-it-GGUF
4B · Q4_K_M · ~2.5 GB · 8 GB+ iPhones Google's efficient 4B instruction model; clean answers and good multilingual coverage.
Phi-4 Mini
unsloth/Phi-4-mini-instruct-GGUF
3.8B · Q4_K_M · ~2.4 GB · 8 GB+ iPhones Microsoft's compact reasoner; strong math and step-by-step tasks.
Llama 3.2 3B
unsloth/Llama-3.2-3B-Instruct-GGUF
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones Meta's small chat model; a balanced pick for older iPhones.
Qwen2.5 3B
Qwen/Qwen2.5-3B-Instruct-GGUF
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones Previous-generation Qwen; fast and reliable for everyday chat.
Qwen3 1.7B
Qwen/Qwen3-1.7B-GGUF
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones Tiny and quick; best for background use and low-memory devices.
SmolLM2 1.7B
HuggingFaceTB/SmolLM2-1.7B-Instruct-GGUF
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones Featherweight Hugging Face model; sips battery and memory.
DeepSeek-R1 Distill 1.5B
lmstudio-community/DeepSeek-R1-Distill-Qwen-1.5B-GGUF
1.5B · Q4_K_M · ~1.0 GB · 6 GB+ iPhones Reasoning-distilled for puzzles and logic; thinks before answering.

আইনি মানচিত্র

অ্যাপের নিজস্ব নীতিগুলো অন্তর্ভুক্ত তৃতীয় পক্ষের সফটওয়্যার ও অন্তর্ভুক্ত মডেলের লাইসেন্স শর্ত থেকে আলাদা, তবে নিচের পৃষ্ঠাগুলো স্পষ্টতার জন্য একে অপরের সাথে যুক্ত।