Untethered LLM · Hướng dẫn mô hình
Mô hình AI nhỏ tốt nhất cho iPhone (GGUF) | Untethered LLM
Mọi mô hình dưới đây đều từ 6B tham số trở xuống và chạy với llama.cpp, cùng thời gian chạy bên trong ứng dụng. Huihui Qwen3 4B Abliterated đã đi kèm Untethered LLM dưới dạng mặc định, cùng với Qwen3 4B làm mô hình đi kèm thứ hai; các mô hình còn lại trong danh sách có thể nhập dưới dạng tệp GGUF. Dung lượng chỉ là ước tính, và số RAM là mức điện thoại cần còn trống.
| Mô hình | Dung lượng và yêu cầu | Ghi chú |
|---|---|---|
| Qwen3 4B Qwen/Qwen3-4B-GGUF |
4B · Q5_K_M · ~2.9 GB · 8 GB+ iPhones | A top all-round iPhone model that also ships with the app as the second bundled model: strong chat, reasoning, and tool use. |
| Gemma 3 4B unsloth/gemma-3-4b-it-GGUF |
4B · Q4_K_M · ~2.5 GB · 8 GB+ iPhones | Google's efficient 4B instruction model; clean answers and good multilingual coverage. |
| Phi-4 Mini unsloth/Phi-4-mini-instruct-GGUF |
3.8B · Q4_K_M · ~2.4 GB · 8 GB+ iPhones | Microsoft's compact reasoner; strong math and step-by-step tasks. |
| Llama 3.2 3B unsloth/Llama-3.2-3B-Instruct-GGUF |
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones | Meta's small chat model; a balanced pick for older iPhones. |
| Qwen2.5 3B Qwen/Qwen2.5-3B-Instruct-GGUF |
3B · Q4_K_M · ~1.9 GB · 6 GB+ iPhones | Previous-generation Qwen; fast and reliable for everyday chat. |
| Qwen3 1.7B Qwen/Qwen3-1.7B-GGUF |
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones | Tiny and quick; best for background use and low-memory devices. |
| SmolLM2 1.7B HuggingFaceTB/SmolLM2-1.7B-Instruct-GGUF |
1.7B · Q4_K_M · ~1.1 GB · 6 GB+ iPhones | Featherweight Hugging Face model; sips battery and memory. |
| DeepSeek-R1 Distill 1.5B lmstudio-community/DeepSeek-R1-Distill-Qwen-1.5B-GGUF |
1.5B · Q4_K_M · ~1.0 GB · 6 GB+ iPhones | Reasoning-distilled for puzzles and logic; thinks before answering. |
Pháp lý
Sơ đồ pháp lý
Chính sách của chính ứng dụng tách biệt với phần mềm bên thứ ba đi kèm và điều khoản giấy phép của các mô hình đi kèm, nhưng các trang dưới đây liên kết với nhau để rõ ràng.