Qwen3.6-27B-MTPLX-Optimized-Speed

מה זה

הגרסה הזו לוקחת את מודל הבסיס של קוון ומארגנת אותו מחדש בפורמט ארבע ביט שמתאים ישירות לספריית MLX של אפל. הייחוד כאן הוא ניצול ראשי החיזוי הפנימיים של המודל באמצעות מנוע ייעודי, מה שמאפשר לו לחזות כמה טוקנים במקביל במקום אחד בכל פעם, בלי מודל עזר חיצוני שמבזבז זיכרון נוסף.

בבדיקות הביצועים שפורסמו על שבב אפל מסוג M5 Max, המבנה הזה סיפק קצב יציב של סביב שישים ושלושה טוקנים לשנייה במשימות קוד. ההאצה הזו נמדדה בתנאי דגימה רגילים ולא רק בהרצה נוקשה, כשהיא שומרת על דיוק התוצאה הסופית ביחס למודל המקורי.

מתאים ל

• השלמת קוד מקומית במק

  מייצר קוד במהירות של מעל שישים טוקנים לשנייה במחשבי אפל חזקים בלי לשלוח מידע החוצה.

• שרת פיתוח פנימי לצוות

  הכלי מציע פקודת שרת מובנית להרצה מקומית ומאפשר לחבר עורכי קוד דרך כתובת רשת פנימית.

• בדיקת ממשקי שפה ואוטומציה

  מתאים לעבודה שוטפת מול חלון טקסט רחב בלי לשלם עלויות לפי קריאה לספק חיצוני.

איפה זה נופל

המגבלה המרכזית היא תלות מוחלטת בסביבת אפל ובגרסת תוכנה נסיונית בשם mtplx שנמצאת בשלבי פיתוח ראשוניים. בנוסף, המספרים המרשימים הושגו כשרכיב הניתוח המעמיק, מצב החשיבה, כבוי לחלוטין ובעומס עבודה נמוך מאוד על המחשב. הכרטיס מיועד לפעולה רק מול סוג מסוים של ארכיטקטורת תחזית, כך ששינוי בהגדרות הדגימה או הפעלת חשיבה מורכבת עלולים להוריד את קצב הייצור ולבטל את היתרון שבגללו לקחתם אותו.

איך מריצים

המודל הזה נבנה בלעדית עבור מק עם מעבדי אפל סיליקון, ומריצים אותו באמצעות כלי שנקרא mtplx דרך שורת הפקודה או בהתקנה מגיטהאב. הוא דורש חומרה חזקה, כאשר בדיקות היצרן הרשמיות בוצעו על מחשב עם 128 גיגה זיכרון מאוחד, כך שמחשבי מק בסיסיים עם שמונה או שישה עשר גיגה זיכרון ייכשלו בהרצה שלו.

אם אתם עובדים על שרתי לינוקס או מחשבי חלונות עם כרטיסי אנבידיה, אין לכם מה להוריד את הקבצים האלה. במקרה שאין לכם מק ייעודי וחזק לפיתוח מקומי, עדיף להשתמש בממשק רשת חיצוני שמגיש את המודל המקורי.

pip install -U huggingface_hub
hf download Youssofal/Qwen3.6-27B-MTPLX-Optimized-Speed

הקבצים

21 קבצים במאגר, 15.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00003-of-00003.safetensors5.4 GB
• model-00002-of-00003.safetensors5.4 GB
• model-00001-of-00003.safetensors5.3 GB
• mtp/weights.safetensors337.6 MB
• tokenizer.json20.0 MB
• vocab.json6.7 MB
• model.safetensors.index.json218.3 KB
• LICENSE11.3 KB
• MTPLX_PUBLISH_MANIFEST.json8.2 KB
• chat_template.jinja7.8 KB
• config.json4.6 KB
• README.md4.1 KB
• mtplx_runtime.json2.5 KB
• .gitattributes1.6 KB
• processor_config.json1.3 KB
• tokenizer_config.json1.1 KB
• NOTICE460 B
• preprocessor_config.json390 B
• video_preprocessor_config.json385 B
• generation_config.json202 B
• configuration.json51 B

הרישיון

הרישיון הוא אפאצ׳י 2.0 מלא, גם עבור מודל הבסיס וגם עבור שכבת ההמרה. מותר להשתמש בו ליישומים מסחריים, לשנות אותו, להריץ אותו בארגון ולשלב אותו במוצרים, בתנאי ששומרים על הודעות זכויות היוצרים והרישיון המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗