flux-fp8
קוד פתוחKijaiother2024-08-01
גרסאות מכווצות של מודלי התמונות FLUX בפורמט שמונה ביט שחוסכות זיכרון כרטיס מסך. פתרון ישיר למי שרוצה להריץ את המודלים הכבדים האלה על חומרה מקומית סבירה.
- 47.6 GBמשקל הקבצים
- 73,458הורדות בחודש
- 984לייקים
מה זה
המאגר הזה מאגד משקולות שעברו המרה לפורמטים של שמונה ביט, ספציפית float8 מסוג e4m3fn וגם e5m2. במקום להוריד מודלים מקוריים במשקל מלא שדורשים משאבים מוגזמים, מקבלים כאן גרסאות מוכנות של דגמי dev ושל schnell, יחד עם התאמה לתוסף הבקרה של Shakker Labs.
התוכן מיועד ליצירת תמונות ומבוסס על אנגלית בלבד לפי נתוני המקור. המשקל הכולל של כלל הקבצים מגיע ל־47.6 גיגה בייט ומחולק לשמונה קבצים נפרדים בספריית diffusion-single-file, כך שלא מורידים את הכל ביחד אלא בוחרים את הקובץ הספציפי שמתאים לצורך ולסוג הדיוק המבוקש.
מתאים ל
- הרצה מקומית של schnell
מאפשר לייצר תמונות בפורמט שמונה ביט ברישיון פתוח גם למטרות מסחריות ובמשקל זיכרון נמוך.
- מחקר וניסוי עם dev
בדיקת איכות התמונות של המודל הגדול יותר על מחשב אישי בלי לחרוג ממגבלות החומרה.
- שילוב עם רשתות בקרה
שימוש בקובץ ההרחבה התואם של Shakker Labs לקבלת שליטה מדויקת בקומפוזיציה.
איפה זה נופל
המאגר לא מספק תוצאות מדידה או בדיקות איכות שמראות כמה דיוק אובד במעבר לפורמטים המכווצים האלה. המודל מוגדר לשפה האנגלית בלבד ולא ברור איך הוא מתמודד עם טקסטים או הנחיות בעברית. בנוסף, מדובר בהעלאה קהילתית שמפצלת קבצים ולא במודל רשמי של היצרן המקורי, כך שכל עניין התאימות לכלי עבודה חיצוניים תלוי בתמיכה של הכלים שלכם בסוג הקובץ הזה.
שאלות
נפוצות
איזה קובץ צריך להוריד מתוך כל השמונה?
אתם בוחרים רק את הקובץ שמתאים למטרה שלכם. מי שצריך שימוש מסחרי מוריד את קובץ ה־schnell, ומי שרוצה את איכות הדגם השני מוריד את קובץ ה־dev בפורמט e4m3fn.
אפשר להשתמש בתמונות שנוצרות בתוך מוצר מסחרי?
זה תלוי בקובץ שבחרתם להריץ. קובץ ה־schnell מגיע ברישיון Apache 2.0 ומותר לשימוש מסחרי, אבל קובצי ה־dev מוגבלים לשימוש שאינו מסחרי בלבד.
איך מריצים
בפועל מורידים רק את קובץ ה־safetensors הרצוי, למשל גרסת ה־dev או ה־schnell בפורמט e4m3fn, וטוענים אותו בסביבות שתומכות בקבצי דיפיוז'ן יחידים. למרות הדחיסה לשמונה ביט, עדיין צריך מעבד גרפי מודרני עם תמיכה טבעית בפורמטים האלה וזיכרון וידאו מכובד כדי להחזיק את המודל פתוח.
אם אין לכם כרטיס מתאים או שהסביבה שלכם לא תומכת בהרצה של float8 בלי לאבד ביצועים, יהיה זול ופשוט יותר לפנות ל־API חיצוני שמחזיק את המודלים האלה מנוהלים כבר בענן.
pip install -U huggingface_hub hf download Kijai/flux-fp8
הקבצים
8 קבצים במאגר, 47.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון כאן מפוצל לפי הקובץ שבוחרים. גרסת schnell משתמשת ברישיון Apache 2.0 שפתוח לחלוטין ומאפשר שימוש מסחרי, אבל גרסת dev וההרחבות שלה כפופות לרישיון הלא מסחרי של FLUX dev. אם אתם בונים מוצר שנועד לייצר כסף, אסור לכם להשתמש בקובצי ה־dev מהמאגר הזה.