Ornstein3.6-35B-A3B-GGUF

מה זה

הוא בנוי בארכיטקטורת Qwen3_5MoeForConditionalGeneration, חלון ההקשר שלו הוא 262,144 טוקנים. המשקלים נשמרו ב־bfloat16.

במאגר 24 קבצים במשקל 211 GB סך הכול. הרישיון המדווח הוא apache-2.0, ושם של רישיון הוא לא תחליף לקריאה שלו. המספרים בעמוד נקראו מ־Hugging Face ב־2026-09-17.

איך מריצים

הפקודה למטה מושכת את המודל ישירות מ־Hugging Face. אין צורך להוריד קובץ ידנית.

ollama run hf.co/GestaltLabs/Ornstein3.6-35B-A3B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

24 קבצים במאגר, 211 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• Ornstein3.6-35B-A3B-Q8_0.gguf36.9 GB
• Ornstein3.6-35B-A3B-Q6_K.gguf28.5 GB
• Ornstein3.6-35B-A3B-Q5_K_M.gguf24.7 GB
• Ornstein3.6-35B-A3B-Q5_K_S.gguf24.0 GB
• Ornstein3.6-35B-A3B-Q4_K_M.gguf21.2 GB
• Ornstein3.6-35B-A3B-Q4_K_S.gguf19.9 GB
• Ornstein3.6-35B-A3B-Q3_K_M.gguf16.8 GB
• Ornstein3.6-35B-A3B-Q3_K_S.gguf15.2 GB
• Ornstein3.6-35B-A3B-IQ3_XXS.gguf13.6 GB
• Ornstein3.6-35B-A3B-Q2_K.gguf12.9 GB
• Ornstein3.6-35B-A3B-IQ2_M.gguf11.7 GB
• model-vision-from-qwen3.6-base.safetensors893.2 MB
• imatrix.dat192.2 MB
• tokenizer.json20.0 MB
• model.safetensors.index.json101.2 KB
• tokenizer_config.json15.8 KB
• chat_template.jinja8.1 KB
• README.md4.7 KB
• config.json3.4 KB
• .gitattributes2.4 KB
• processor_config.json1.2 KB
• video_preprocessor_config.json817 B
• preprocessor_config.json781 B
• configuration.json58 B

הרישיון

הרישיון המדווח הוא apache-2.0. שם של רישיון הוא לא תחליף לקריאה שלו, במיוחד כשמדובר במוצר מסחרי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗