Untethered LLM · மாதிரி வழிகாட்டி

iPhone-க்கான சிறந்த சிறு AI மாதிரிகள் (GGUF) | Untethered LLM

கீழே உள்ள ஒவ்வொரு மாதிரியும் 6B அளவுருக்கள் அல்லது குறைவு, செயலிக்குள் உள்ள அதே இயக்கச்சூழலான llama.cpp உடன் இயங்கும். Huihui Qwen3 4B Abliterated ஏற்கனவே முன்னிருப்பாக Untethered LLM உடன் வருகிறது, Qwen3 4B இரண்டாவது உள்ளடக்கிய மாதிரியாக; பட்டியலில் உள்ள மற்ற அனைத்தையும் GGUF கோப்பாக இறக்குமதி செய்யலாம். அளவுகள் தோராயமானவை, RAM எண்கள் கைப்பேசியில் எவ்வளவு காலியாக வேண்டும் என்பவை.

iPhone-வகை RAM வரவுகளுக்கு எதிரே சரிபார்த்த எட்டு மாதிரிகள்
மாதிரி அளவு & தேவைகள் குறிப்புகள்
Qwen3 4B
Qwen/Qwen3-4B-GGUF
4B · Q5_K_M · ~2.9 GB · 8 GB+ iPhones A top all-round iPhone model that also ships with the app as the second bundled model: strong chat, reasoning, and tool use.
Gemma 3 4B
unsloth/gemma-3-4b-it-GGUF
4B · Q4_K_M · ~2.5 GB · 8 GB+ iPhones Google's efficient 4B instruction model; clean answers and good multilingual coverage.
Phi-4 Mini
unsloth/Phi-4-mini-instruct-GGUF
3.8B · Q4_K_M · ~2.4 GB · 8 GB+ iPhones Microsoft's compact reasoner; strong math and step-by-step tasks.
Llama 3.2 3B
unsloth/Llama-3.2-3B-Instruct-GGUF
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones Meta's small chat model; a balanced pick for older iPhones.
Qwen2.5 3B
Qwen/Qwen2.5-3B-Instruct-GGUF
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones Previous-generation Qwen; fast and reliable for everyday chat.
Qwen3 1.7B
Qwen/Qwen3-1.7B-GGUF
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones Tiny and quick; best for background use and low-memory devices.
SmolLM2 1.7B
HuggingFaceTB/SmolLM2-1.7B-Instruct-GGUF
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones Featherweight Hugging Face model; sips battery and memory.
DeepSeek-R1 Distill 1.5B
lmstudio-community/DeepSeek-R1-Distill-Qwen-1.5B-GGUF
1.5B · Q4_K_M · ~1.0 GB · 6 GB+ iPhones Reasoning-distilled for puzzles and logic; thinks before answering.

சட்ட வரைபடம்

செயலியின் சொந்தக் கொள்கைகள் உள்ளடக்கிய மூன்றாம் தரப்பு மென்பொருளிலிருந்தும் உள்ளடக்கிய மாதிரிகளின் உரிம நிபந்தனைகளிலிருந்தும் தனித்தன, ஆனால் தெளிவுக்காகக் கீழே உள்ள பக்கங்கள் ஒன்றோடொன்று இணைக்கப்பட்டுள்ளன.

எங்கள் செயலிக் கொள்கைகள்

மூன்றாம் தரப்புக் கொள்கைகள்