Llama-3-Open-Ko-8B-gguf

מה זה

הוא בנוי בארכיטקטורת LlamaForCausalLM על פני 32 שכבות, וחלון ההקשר שלו הוא 8,192 טוקנים. המשקלים נשמרו ב־bfloat16.

במאגר 17 קבצים במשקל 62.9 GB סך הכול. הרישיון המדווח הוא llama3, ושם של רישיון הוא לא תחליף לקריאה שלו. המספרים בעמוד נקראו מ־Hugging Face ב־2026-09-17. השפות שמצוינות בכרטיס: en, ko.

איך מריצים

הפקודה למטה מושכת את המודל ישירות מ־Hugging Face. אין צורך להוריד קובץ ידנית.

ollama run hf.co/teddylee777/Llama-3-Open-Ko-8B-gguf:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

17 קבצים במאגר, 62.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• Llama-3-Open-Ko-8B-FP16.gguf16.1 GB
• Llama-3-Open-Ko-8B-Q8_0.gguf8.5 GB
• Llama-3-Open-Ko-8B-Q6_K.gguf6.6 GB
• Llama-3-Open-Ko-8B-Q5_K_M.gguf5.7 GB
• Llama-3-Open-Ko-8B-Q5_0.gguf5.6 GB
• Llama-3-Open-Ko-8B-Q5_K_S.gguf5.6 GB
• Llama-3-Open-Ko-8B-Q4_1.gguf5.1 GB
• Llama-3-Open-Ko-8B-Q4_K_M.gguf4.9 GB
• Llama-3-Open-Ko-8B-Q4_K_S.gguf4.7 GB
• Llama-3-Open-Ko-8B-Q4_0.gguf4.7 GB
• tokenizer.json9.1 MB
• tokenizer_config.json51.0 KB
• README.md4.7 KB
• .gitattributes2.2 KB
• config.json698 B
• special_tokens_map.json301 B
• generation_config.json132 B

הרישיון

הרישיון המדווח הוא llama3. שם של רישיון הוא לא תחליף לקריאה שלו, במיוחד כשמדובר במוצר מסחרי.

• שימוש מסחרי עד 700 מיליון משתמשים
• שינוי הקוד
• חובת ייחוס

הרישיון המלא בעמוד המודל ↗