GPT
הוספת כלי
Q

Qwen3.6-27B-UD-MLX-4bit

קוד פתוח

unslothapache-2.02026-04-22

  • mlx
  • safetensors
  • qwen3_5
  • unsloth
  • qwen

גרסת קוונטיזציה של 4 ביט שמביאה שילוב של קוד ומולטימודל לתוך מחשבי מק. מקבלים יכולות תכנות של מודל ענק בחבילה שנכנסת לחומרה אישית.

  • 27Bפרמטרים
  • 262,144טוקנים בהקשר
  • 24.4 GBמשקל הקבצים
  • 4,591הורדות בחודש

מה זה

מדובר במודל שפה וראייה בגודל 27 מיליארד פרמטרים, המשלב קידוד תמונה וטקסט ונשען על ארכיטקטורת שכבות היברידית של DeltaNet ותשומת לב רגילה. הוא מיועד בעיקר למשימות תכנות מורכבות, ניהול ריפוזיטורי ואינטראקציה מול מסוף, לצד תמיכה מובנית בחלון הקשר נרחב שמגיע ל־262,144 טוקנים.

במבחני תכנות סוכן הוא עוקף את הדור הקודם ומציג תוצאות קרובות למודלים קנייניים כבדים. ב־SWE-bench Verified הוא מקבל 77.2 לעומת 75.0 של קודמו, וב־Terminal-Bench 2.0 הוא מגיע ל־59.3, תוצאה זהה לזו של קלוד 4.5 אופוס שמופיע בטבלה. המשמעות היא יכולת עבודה עצמאית ואמינה יותר כשנותנים לו משימות של עריכת קבצים והרצת פקודות shell.

מתאים ל

  • סוכן תכנות מקומי

    הוא משיג 77.2 ב־SWE-bench Verified, מה שמאפשר לו לאתר באגים ולערוך קבצים בריפו מקומית.

  • עבודה מול טרמינל

    התוצאה שלו ב־Terminal-Bench 2.0 מגיעה ל־59.3, ומאפשרת ביצוע פקודות מערכת ללא שירות ענן.

  • פיתוח ממשקי ווב

    הוא קיבל ציון של 1487 ב־QwenWebBench, מה שהופך אותו למתאים ליצירת קוד פרונטנד ורכיבים ויזואליים.

איפה זה נופל

במשימות ידע כללי מורכבות ופתרון שאלות מומחים הוא עדיין מוגבל ביחס למודלים הגדולים. במבחן HLE הוא משיג רק 24.0, וב־SuperGPQA הוא מגיע ל־66.0, נתונים שמראים שהוא לא מיועד לשמש כמקור ידע אנציקלופדי מדעי ברמה הגבוהה ביותר. בנוסף, קוונטיזציה של 4 ביט עלולה לייצר אי־דיוקים בתחביר קוד רגיש, דבר שמחייב הרצת בדיקות לפני שילוב שלו בפייפליין אוטומטי.

שאלות
נפוצות

האם אפשר להריץ אותו על כרטיס Nvidia רגיל?

ההפצה הזו נבנתה במיוחד לספריית mlx עבור מעבדי אפל סיליקון. כדי להריץ על חומרת Nvidia יש לחפש גרסה בפורמט שונה שמתאימה ל־vLLM או Hugging Face.

האם המודל תומך בהבנת תמונות בנוסף לטקסט?

כן, הארכיטקטורה שלו כוללת רכיב ראייה מובנה שמוגדר למשימות image-text-to-text, כך שאפשר להזין לו תמונות לצד קוד או פרומפטים טקסטואליים.

כמה זיכרון דורש חלון ההקשר המלא?

המודל תומך ב־262,144 טוקנים, אך פתיחת הקשר באורך כזה תדרוש נפח זיכרון משמעותי בהרבה מ־24.4 הגיגה של המשקלים עצמם. בשביל הקשרים ארוכים במיוחד תצטרכו מחשב עם 64 או 128 גיגה זיכרון.

איך מריצים

את הגרסה הזו מריצים ישירות על חומרת אפל סיליקון בעזרת ספריית mlx ופקודת mlx_vlm.chat. הקבצים שוקלים 24.4 גיגה בייט, כך שצריך מק עם לפחות 32 גיגה בייט של זיכרון אחוד כדי לטעון אותו, ועדיף 64 גיגה בייט ומעלה אם מתכננים לנצל חלק משמעותי מחלון ההקשר העצום שלו.

מי שאין לו מק עם זיכרון מתאים, או מי שמפתח שירות שצריך לשרת עשרות משתמשים במקביל בלי להחזיק שרת ייעודי מקומי, יעדיף לקרוא ל־API חיצוני במקום לנסות להריץ מקומית.

pip install -U huggingface_hub
hf download unsloth/Qwen3.6-27B-UD-MLX-4bit

הקבצים

13 קבצים במאגר, 24.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון apache-2.0, שמאפשר שימוש מסחרי מלא, שינוי של המשקלים והפצה חופשית בלי תמלוגים. התנאי המרכזי הוא שמירה על הודעת זכויות היוצרים ומסמך הרישיון המקורי בתוצר שלכם.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗