Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill-GGUF

מה זה

הבסיס כאן הוא מודל קוון של תשעה מיליארד פרמטרים, שעבר אימון על עקבות חשיבה שנלקחו בעיקר מג'מיני 3.1 פרו, לצד נתונים מג'מיני 3 פרו ומודל קוון של 27 מיליארד פרמטרים. במקום לזרוק תשובה מיידית, הוא מאומן לעצור, להגדיר את מטרת העל, לבודד כשלים אפשריים ולתכנן את הפתרון שלב אחרי שלב.

ערכת הנתונים שלו ממוקדת במשימות אנליטיות קשות. 28.5 אחוז ממנה מוקדשים למתמטיקה ולוגיקה, 21.8 אחוז למדעי המחשב ומערכות, ועוד 11.2 אחוז לתרחישי אבטחה וחשיבה יריבית. זה אומר שהוא נבנה ספציפית לבעיות שדורשות מעקב אחרי אילוצים ולא לשיחה חופשית וקלילה.

מתאים ל

• פתרון בעיות קוד ומערכות

  מעל חמישית מנתוני האימון הוקדשו למדעי המחשב, מה שעוזר לו לתכנן ארכיטקטורה ולבודד תקלות.

• ניתוח לוגי ואילוצים

  מתאים למשימות מתמטיות או מסמכים משפטיים ופיננסיים שמחייבים מעקב קפדני אחרי חוקים.

• בדיקות חוסן ואבטחה

  כולל נתונים ייעודיים על חשיבה יריבית, ולכן מתאים לבחינת תרחישי כשל ומעקפי אבטחה בלוגיקה.

איפה זה נופל

הכרטיס מודה בפירוש בתופעת לוואי של זיכוך: תהליך האימון עלול להוביל לשכחה חלקית של ידע כללי שהיה קיים במודל המקורי, ולפגוע ביכולת ההכללה במשימות רחבות. יש לו נטייה לחשיבת יתר, והוא עלול לחפור ולהחזיר מבנה ארוך ומסורבל גם כשביקשתם תשובה של מילה אחת. בנוסף, קיימת סכנה להזיות של עובדות וציטוטים, והתאימות של תבניות השיחה עשויה לדרוש כוונון ידני בסביבות ריצה שונות.

איך מריצים

המשקל הכולל של הקבצים מגיע ל־32.3 גיגה בייט בפורמט בי פלוט 16 שמחולק לתשעה קבצים. כדי להריץ את המשקלים הגולמיים בלי כימות תצטרכו כרטיס מסך עם לפחות 40 גיגה בייט זיכרון, או לחלופין להשתמש בגרסאות מכומתות שמיועדות לריצה מקומית על מעבדים או כרטיסים צרכניים קטנים יותר.

אם אתם צריכים רק שאילתות בודדות פעם בכמה שעות, עדיף לפנות לשרת מרוחק דרך ממשק חיצוני במקום להחזיק שרת ייעודי שדולק סתם. הרצה עצמית משתלמת כשיש לכם נפח עבודה רציף, דרישות פרטיות של מידע פנימי, או צורך בחלון ההקשר הגדול שמגיע ל־262,144 טוקנים.

ollama run hf.co/Jackrong/Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

9 קבצים במאגר, 32.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• Qwen3.5-9B.Q8_0.gguf9.5 GB
• Qwen3.5-9B.Q6_K.gguf7.4 GB
• Qwen3.5-9B.Q5_K_M.gguf6.5 GB
• Qwen3.5-9B.Q4_K_M.gguf5.7 GB
• Qwen3.5-9B.Q3_K_M.gguf4.6 GB
• Qwen3.5-9B.BF16-mmproj.gguf921.7 MB
• README.md7.5 KB
• config.json3.4 KB
• .gitattributes2.2 KB

הרישיון

הרישיון הוא אפאצ'י 2.0. זה רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי של הקוד והמשקלים והפצה בתוך מוצר סגור, בלי חובה לחשוף את הפיתוחים שלכם. התנאי המרכזי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקבצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗