Flux-Fusion-DS-merge-gguf-nf4-fp4-fp8-fp16

קוד פתוח

Anibaaalother2024-08-08

diffusers
gguf
flux
flux.1
flux.1-schnell

שילוב בין הגרסאות Dev ו־Schnell של פלוקס ליצירת תמונות מהירה. הוא מיועד למי שרוצה איכות טובה ב־4 עד 8 צעדים בלבד ומחפש מגוון קווינטוטים להרצה מקומית.

255 GBמשקל הקבצים
1,381הורדות בחודש
48לייקים

מה זה

מדובר במיזוג משקלים שלקח את המודלים Schnell ו־Dev מסדרת Flux.1 וחיבר ביניהם בצורה הדרגתית על פני הבלוקים השונים, במקום יחס חלוקה אחיד. המטרה כאן היא לקבל את היכולות הגרפיות של Dev יחד עם המהירות של Schnell, שפועל היטב במספר צעדי דגימה נמוך מאוד.

היוצר בדק את התוצאות בהגדרות של 8 צעדים, CFG של 3.5 ורזולוציה של 1536 על 1536 פיקסלים. הדוגמאות שהועלו מציגות יצירה של פורטרטים עמוסי פרטים, חומרים שקופים ותאורה מורכבת בהנחיות טקסט באנגלית, בלי צורך בעשרות צעדי רינדור כמו במודלים רגילים.

מתאים ל

רינדור תמונות מהיר במחשב ביתי
הוא מפיק תוצאות ב־4 עד 8 צעדים בלבד, מה שחוסך זמן עיבוד משמעותי בחומרה מקומית מוגבלת.
הפקת קונספט ארט עתיר פרטים
השילוב מציג ביצועים טובים בהנחיות מורכבות של תלת מימד וטקסטורות ברזולוציה גבוהה של 1536 על 1536.
ניסויי קוונטיזציה ב־ComfyUI
זמינות המשקלים בפורמטים מגוונים מאפשרת לבחון ביצועים של GGUF מול NF4 ו־fp8 על אותו כרטיס.

איפה זה נופל

המודל תומך בהנחיות באנגלית בלבד. המיזוג בין שני המודלים בוצע באופן ניסיוני בשיפוע משתנה בין הבלוקים, מה שאומר שאין ערובה ליציבות אחידה בכל סגנון או פרומפט בהשוואה למודלי המקור. בנוסף, כדי להפעיל אותו מקומית נדרשת התעסקות לא קטנה עם תוספים מותאמים אישית ב־ComfyUI והבנה בדיוק איזה קובץ משקלים דורש תוספות חיצוניות ואיזה לא.

שאלות
נפוצות

אני חייב להוריד את כל 255 הגיגה בייט כדי לעבוד איתו?

ממש לא. מדובר באוסף גדול של גרסאות שונות של אותו המודל. עליכם לבחור רק קובץ אחד שמתאים לפורמט שבו אתם עובדים, כמו GGUF או FP8, בהתאם לזיכרון כרטיס המסך שלכם.

מה ההבדל בין גרסת All in one לגרסת UNET?

גרסת All in one כוללת בתוכה את מקודדי הטקסט ואת ה־VAE, כך שאפשר לטעון אותה ישירות. גרסת UNET כוללת רק את המודל עצמו ותדרוש מכם להוריד בנפרד את ה־VAE ואת מקודדי ה־T5XXL וה־CLIP.

האם המודל יבין פרומפטים שכתובים בעברית?

לא. המודל מאומן על השפה האנגלית בלבד. אם תכתבו לו הנחיות בעברית הוא כנראה ייצר פלט שבור או לא רלוונטי, ולכן חובה לכתוב את הפרומפט באנגלית.

איך מריצים

הריפוזיטורי מכיל 42 קבצים במשקל כולל של 255 גיגה בייט, אבל אתם מורידים רק קובץ בודד לפי הצורך. יש גרסאות All in one שמכילות כבר את המקודדים וה־VAE, ויש קובצי UNET בלבד שמחייבים הורדה נפרדת של T5XXL, CLIP וה־VAE.

כדי להריץ את גרסאות ה־GGUF ב־ComfyUI חייבים להתקין את התוסף ComfyUI-GGUF. גרסאות ה־bitsandbytes כמו NF4 או FP4 דורשות תוספים ייעודיים של bnb. מי שמחזיק כרטיס מסך עם זיכרון צנוע יעדיף את גרסאות ה־GGUF המכווצות יותר, בזמן שמשתמשי חומרה חזקה יכולים לבחור ב־fp8 או ב־fp16 המלא.

ollama run hf.co/Anibaaal/Flux-Fusion-DS-merge-gguf-nf4-fp4-fp8-fp16:FluxFusionDS_v0_Q4_1

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

safetensors150.3 GB FluxFusionDS_v0_F1623.8 GB FluxFusionDS_v0_Q8_012.7 GB FluxFusionDS_v0_Q6_K9.8 GB FluxFusionDS_v0_Q5_19.0 GB FluxFusionDS_v0_Q5_K_M8.4 GB FluxFusionDS_v0_Q5_K_S8.3 GB FluxFusionDS_v0_Q5_08.3 GB FluxFusionDS_v0_Q4_17.5 GB FluxFusionDS_v0_Q4_K_M6.9 GB FluxFusionDS_v0_Q4_K_S6.8 GB FluxFusionDS_v0_Q4_06.8 GB FluxFusionDS_v0_Q3_K_M5.4 GB FluxFusionDS_v0_Q3_K_S5.2 GB FluxFusionDS_v0_Q2_K4.0 GB

הקבצים

42 קבצים במאגר, 255 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון מוגדר כ־other ולא צוין טקסט רישיון ברור בעמוד. היות ומדובר במיזוג שמכיל משקלים של Flux.1 Dev, שאינו מיועד לשימוש מסחרי חופשי, ברירת המחדל היא לא להשתמש במודל הזה בתוך מוצר מסחרי ללא בדיקת תנאי הרישיון המקוריים של יוצרי Flux.

הרישיון המלא בעמוד המודל ↗