GPT
הוספת כלי
N

mit-han-lab/nunchaku-flux.1-dev

קוד פתוח

mit-han-labother2025-05-29

  • diffusers
  • text-to-image
  • SVDQuant
  • FLUX.1-dev
  • FLUX.1

גרסה מכווצת בארבעה ביטים של מודל התמונות המוכר, שנועדה לחתוך דרישות זיכרון בלי לרסק את האיכות. פתרון ישיר למי שרוצה להריץ מקומית על כרטיס ביתי.

  • 12.9 GBמשקל הקבצים
  • 3,217הורדות בחודש
  • 64לייקים

מה זה

מדובר במימוש שמבוסס על שיטת SVDQuant מבית מעבדת MIT HAN, שלקחה את מודל הבסיס של בלאק פורסט ודחסה אותו ל־4 ביט. הרעיון כאן הוא שימוש במנוע Nunchaku כדי לחלץ ביצועי מהירות ויעילות זיכרון, מבלי לשלם את המחיר הרגיל של ירידה חדה בפרטים שמגיעה בדרך כלל עם קוונטיזציה אגרסיבית.

הפרויקט מציע חלוקה ברורה לפי חומרות. יש קובץ מותאם בפורמט INT4 לכרטיסי מסך סטנדרטיים, וקובץ בפורמט FP4 שמיועד ספציפית לכרטיסים מהדורות החדשים של אנבידיה. במקום לסחוב עשרות גיגה־בייט לזיכרון הגרפי, מקבלים מודל שמתכנס לנפח כולל של פחות מ־13 גיגה בקבצים.

מתאים ל

  • עבודה ב־ComfyUI

    מאפשר לייצר תמונות באיכות גבוהה על חומרת צרכנים מקומית בעזרת קובץ זרימת העבודה הייעודי שמסופק.

  • בדיקות פיתוח ומחקר

    ניסוי מהיר של טכנולוגיית SVDQuant לבחינת היכולות של מודלי שפה ותמונה דחוסים ללא עלויות ענן.

  • הסקה על כרטיסי Blackwell

    ניצול ישיר של חומרת סדרה 50 הודות לגרסת FP4 מותאמת שממצה את הארכיטקטורה החדשה.

איפה זה נופל

הבעיה המרכזית במאגר הזה היא שהוא מיועד לסגירה בדצמבר 2025 וכבר הועבר לכתובת חדשה, כך שלא מומלץ לבנות עליו אוטומציות או סקריפטים תלויים. בנוסף, המודל אומן ותומך רשמית באנגלית בלבד, כך שטקסטים בעברית לא יעבדו בלי תרגום מקדים.

קוונטיזציה של 4 ביט תמיד גוררת פשרות מסוימות בדיוק או ביכולת לעקוב אחרי הנחיות מורכבות מאוד ביחס למקור המלא. צריך גם לקחת בחשבון את התלות בספריות קנייניות ייעודיות כמו deepcompressor ולא בסביבת פייתון נקייה וסטנדרטית לחלוטין.

שאלות
נפוצות

איזה קובץ משקלים אני צריך להוריד מתוך השניים?

זה תלוי בכרטיס המסך שלכם. אם יש לכם כרטיס מדור Blackwell סדרה 50, תורידו את קובץ ה־FP4. עבור כל כרטיס אחר, חובה להשתמש בגרסת ה־INT4 כדי שהקוד ירוץ כמו שצריך.

האם כדאי להתחיל פרויקט חדש על בסיס המאגר הזה?

עדיף שלא. המאגר הנוכחי של MIT יוסתר בדצמבר 2025 והפיתוח הועבר לחשבון של nunchaku-tech, לכן עדיף למשוך את הקבצים ישירות מהמיקום החדש כדי לא להישאר עם קישורים שבורים.

איך מריצים

כדי לעבוד איתו צריך להתקין את מנוע ההסקה Nunchaku ולהשתמש בספריית diffusers או דרך ComfyUI לפי התבניות הרשמיות. הקוד מחייב בחירה מדויקת של הקובץ בהתאם למעבד הגרפי שלכם. משתמשים עם כרטיסים מדורות קודמים יטענו את קובץ ה־INT4, בעוד שמשתמשי סדרת Blackwell יעבדו עם גרסת ה־FP4.

אם אין לכם כרטיס מסך מודרני עם מספיק זיכרון ייעודי כדי להחזיק את המודל והסביבה, עדיף לפנות ל־API חיצוני. התעסקות מקומית עם מודלים כאלה משתלמת רק כשיש לכם שרת ייעודי או תחנת עבודה מתאימה, אחרת ההתקנה וההמתנה לכל תמונה פשוט לא מצדיקות את הזמן.

from diffusers import DiffusionPipeline

pipe = DiffusionPipeline.from_pretrained("mit-han-lab/nunchaku-flux.1-dev")
img = pipe("a photo").images[0]

הקבצים

4 קבצים במאגר, 12.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון כאן הוא הרישיון הלא-מסחרי של FLUX.1-dev. מותר להשתמש בו למחקר, ניסויים אישיים ובדיקות, אבל חל איסור מוחלט לשלב אותו במוצר שמייצר הכנסות או להציע שירותים בתשלום על בסיסו. אם המטרה היא שילוב באפליקציה מסחרית, המודל הזה פסול לחלוטין מבחינה משפטית.

הרישיון המלא בעמוד המודל ↗