GPT
הוספת כלי
Q

Qwen3.5-4B

קוד פתוח

Qwenapache-2.02026-02-27

  • transformers
  • safetensors
  • qwen3_5
  • image-text-to-text
  • conversational

יש כאן גם סקירה על Qwen עצמו.

מודל מולטימודלי של 4.7 מיליארד פרמטרים שרץ על חומרה בסיסית, אבל מחזיק חלון הקשר עצום של 262 אלף טוקנים ויכולת עיבוד תמונה מובנית.

  • 4.7Bפרמטרים
  • 262,144טוקנים בהקשר
  • 8.7 GBמשקל הקבצים
  • 7,264,578הורדות בחודש

מה זה

מדובר במודל שמגיע ישירות עם ארכיטקטורה משולבת של טקסט ותמונה, בלי צורך לחבר מודל ראייה חיצוני נפרד. הוא בנוי על שכבות היברידיות שמשלבות Gated DeltaNet יחד עם מנגנון קשב סטנדרטי, מה שמאפשר לו להחזיק חלון הקשר טבעי של 262,144 טוקנים, שניתן להרחבה עד מיליון ועשרה אלף טוקנים. הוא תומך רשמית ב־201 שפות וניבים שונים.

במבחני הביצועים הוא מציג מספרים מפתיעים לגודלו. במדד ההוראות IFEval הוא מגיע ל־89.8, ובמבחן הסוכנים TAU2-Bench הוא מקבל 79.9, ציון שגובר אפילו על גרסת ה־9B של אותה סדרה. לעומת זאת, במשימות תכנות מורכבות הוא כבר נחלש, עם 55.8 בלבד ב־LiveCodeBench v6, כך שהוא עובד מצוין כסוכן שיחה ועיבוד מסמכים ארוכים, אבל לא מיועד להחליף מפתח.

מתאים ל

  • ניתוח מסמכים ותמונות

    שילוב של עיבוד תמונה מובנה וחלון הקשר ענק מאפשר לקרוא מסמכים סרוקים ארוכים, תרשימים וגרפים בהרצה מקומית.

  • סוכן פעולות ושיחה

    תוצאה של 79.9 במבחן TAU2-Bench הופכת אותו למתאים במיוחד למענה אוטומטי וניתוב פניות על שרת קטן.

  • עבודה על מחשב מקומי

    משקל של 8.7 גיגה בייט מאפשר להריץ אותו ישירות על מחשב פיתוח חזק לצורך ניסויים ופיתוח מהיר ללא תלות ברשת.

איפה זה נופל

החולשה העיקרית שלו מתגלה ברגע שדורשים ממנו חישובים עמוקים וכתיבת קוד. במבחן OJBench הוא קיבל 24.1 בלבד, וב־SuperGPQA נעצר על 52.9, רחוק מאוד מתוצאות של מודלים גדולים. בנוסף, למרות ההבטחה לתמיכה ב־201 שפות, הביצועים שלו ב־WMT24++ נמוכים יותר בהשוואה לדגמים הגדולים, כך שצריך לבדוק היטב את איכות העברית שלו לפני שמשלבים אותו בפרודקשן.

אותה משפחה

Qwen3.5 יצא ב־20 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן, והשאר בעמוד המפרסם.

Qwen3.5-9B11,389,211 Qwen3.5-2B3,115,741 Qwen3.5-0.8B2,412,896 Qwen3.5-27B2,296,792 Qwen3.5-35B-A3B2,290,236 Qwen3.5-122B-A10B-FP81,612,865 Qwen3.5-35B-A3B-FP81,469,426 Qwen3.5-2B-Base892,422

שאלות
נפוצות

האם המודל מסוגל לעבד תמונות או רק טקסט?

הוא מוגדר מראש כמודל image-text-to-text ומכיל רכיב ראייה מובנה. אין צורך לחבר מודל חיצוני כדי לנתח תמונות או דיאגרמות.

כמה זיכרון דרוש כדי להריץ אותו?

הקבצים עצמם שוקלים 8.7 גיגה בייט, ולכן כרטיס עם 12 גיגה זיכרון יספיק לפעולה בסיסית. אם תרצו לנצל חלונות הקשר ארוכים, תצטרכו להקצות זיכרון נוסף עבור ה־KV cache.

האם הוא מתאים לכתיבת קוד מורכב?

התוצאות שלו במבחני קוד כמו LiveCodeBench ו־OJBench נמוכות ביחס למודלים גדולים. הוא יסייע בסקריפטים פשוטים, אך לא מומלץ להסתמך עליו בארכיטקטורת תוכנה מורכבת.

איך מריצים

המשקל הכולל של הקבצים עומד על 8.7 גיגה בייט, כך שכרטיס מסך בודד עם 12 עד 16 גיגה זיכרון יריץ אותו בקלות בלי קוונטיזציה כבדה. הוא נתמך ישירות בספריות כמו transformers, vLLM, SGLang ו־KTransformers.

אם אתם מתכננים לנצל את מלוא חלון ההקשר של 262 אלף טוקנים, דרישות הזיכרון לטובת ה־KV cache יזנקו משמעותית מעבר למשקל הבסיסי של המודל. במקרים של עומסים מזדמנים או עיבוד מסמכים ענקיים פעם ב..., עדיף לפנות ל־API חיצוני במקום להחזיק שרת ייעודי שרובו יושב ללא שימוש.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="Qwen/Qwen3.5-4B")
print(pipe("שלום"))

הקבצים

14 קבצים במאגר, 8.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הקוד והמשקלים שוחררו תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי מלא, שינוי של הקוד, הפצה מחדש ושילוב במוצרים סגורים, כל עוד שומרים על הודעת זכויות היוצרים המקורית ומצרפים עותק של הרישיון.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗