Qwen3.5-4B-GGUF

קוד פתוח

unslothapache-2.02026-03-02

transformers
gguf
unsloth
image-text-to-text
endpoints_compatible

מודל מולטימודלי קומפקטי שמביא יכולות עיבוד תמונה וטקסט בחלון הקשר ענק. הוא פונה למי שמחפש ריצה עצמית זריזה בלי לחנוק את החומרה.

66.4 GBמשקל הקבצים
928,147הורדות בחודש
409לייקים

מה זה

הארכיטקטורה כאן משלבת בין Gated DeltaNet לשכבות קשב מקוצצות כדי לאפשר עיבוד שפה ותמונה יחד. הוא נשען על אימון מולטימודלי מוקדם ומכיל 4 מיליארד פרמטרים, עם תמיכה מוצהרת ב־201 שפות ודיאלקטים. חלון ההקשר הטבעי עומד על 262,144 טוקנים ויכול להתרחב עד 1,010,000 טוקנים לפי דיווחי המפתחים.

במדדי ביצועים הוא מפגין פערים מעניינים מול דגמים כבדים בהרבה. במבחן IFEval למעקב אחר הוראות הוא מגיע ל־89.8 נקודות, תוצאה קרובה מאוד למודלים של עשרות מיליארדי פרמטרים. מצד שני, בבדיקות של תכנון מורכב כמו DeepPlanning הוא נעצר ב־17.6 נקודות, ובמבחן הקוד LiveCodeBench v6 הוא משיג 55.8, כך שאי אפשר לצפות ממנו להחליף מנוע פיתוח ראשי.

מתאים ל

ניתוח מסמכים ותמונות
קריאת קלט חזותי וטקסטואלי מקומי בזכות שילוב רכיב התמונה המובנה.
עיבוד טקסטים ארוכים
עבודה מול מאגרי תוכן גדולים הודות לחלון הקשר של מעל 260 אלף טוקנים.
סוכן מקומי קל משקל
ביצוע משימות מערכת ממוקדות שאינן דורשות תכנון רב־שלבי כבד.

איפה זה נופל

החולשה המרכזית נמצאת במשימות חשיבה אלגוריתמית וכתיבת תוכנה תחרותית, שם הציון ב־OJBench עומד על 24.1 בלבד. גם ב־VITA-Bench לסוכנים הוא מספק 22 נקודות, מה שמראה שפעולות אוטונומיות מרובות שלבים דורשות זהירות ובדיקה קפדנית. למרות התמיכה המוצהרת בשפות רבות, חובה לבחון את איכות העברית בפועל במשימות מורכבות לפני שמשלבים אותו בזרימת עבודה אמיתית.

אותה משפחה

Qwen3.5 יצא ב־8 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Qwen3.5-9B-GGUF1,618,479 Qwen3.5-122B-A10B-GGUF514,714 Qwen3.5-27B-GGUF477,576 Qwen3.5-397B-A17B-GGUF396,008 Qwen3.5-2B-GGUF258,837 Qwen3.5-0.8B-GGUF256,080 Qwen3.5-35B-A3B-GGUF201,183

שאלות
נפוצות

איזו חומרה נחוצה כדי להריץ את המודל?

הגודל עומד על 4 מיליארד פרמטרים בלבד, כך שכימות בסיסי ירוץ בקלות על כרטיס מסך ביתי עם זיכרון צנוע או על מעבד מחשב נייד מודרני. אין צורך בחומרת שרתים יקרה כדי לקבל זמני תגובה מהירים.

האם הוא מתאים לכתיבת קוד מלאה לפרויקטים?

הנתונים מראים תוצאה של 55.8 במבחן LiveCodeBench v6 ו־24.1 ב־OJBench. הוא יכול לעזור בהשלמות קוד פשוטות או תיעוד, אבל לא הייתי בונה עליו לכתיבת ארכיטקטורה מורכבת.

איך מריצים

המאגר הזה מאגד קובצי GGUF במשקל כולל של 66.4 ג'יגה־בייט שמחולקים ל־28 קבצים ברמות כימות שונות, כולל שיטת Dynamic 2.0 של Unsloth. מודל של 4 מיליארד פרמטרים בכימות ממוצע דורש מעט מאוד זיכרון ויכול לרוץ בנוחות על כרטיס מסך בסיסי או מחשב מקומי עם מעבד סביר, בלי צורך בחוות שרתים.

הבחירה בגרסה מקומית מתאימה למי שחייב פרטיות מלאה או רוצה לבצע התאמה אישית מקומית בעזרת כלי הכוונון של Unsloth. אם המטרה היא בעיקר שאילתות קוד כבדות או לוגיקה סבוכה מאוד, עדיף להשתמש ב־API של מודל ענק במקום להתאמץ על המערך המקומי.

ollama run hf.co/unsloth/Qwen3.5-4B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

28 קבצים במאגר, 66.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא apache-2.0, מה שמאפשר שימוש מסחרי, שינוי של הקוד והפצה של המודל בתוך מוצרים. אין חובה לחשוף קוד מקור של פיתוחים שמבוססים עליו, כל עוד שומרים על הצהרת זכויות היוצרים ותנאי הרישיון המקוריים.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗