lumina-gguf

קוד פתוח

calcuisapache-2.02025-02-06

gguf
gguf-node
gguf-connector
text-to-image
endpoints_compatible

גרסת GGUF מכווצת של Lumina 2 ליצירת תמונות מטקסט. היא מיועדת למי שרוצה להפיק תמונות מקומית בלי לחנוק את הזיכרון הגרפי.

62.3 GBמשקל הקבצים
2,649הורדות בחודש
37לייקים

מה זה

מדובר בהמרה של Lumina-Image 2.0 מבית Alpha-VLLM וגרסת כוונון מבית neta-art לפורמט GGUF, שמחלק את המודל לדרגות כימות שונות כמו q2_k, q4_0 ו־q8_0. המבנה כאן מודולרי לחלוטין: מודל הדיפוזיה עובד לצד מקודד הטקסט gemma-2-2b של גוגל ורכיב VAE שמבוסס על הארכיטקטורה של FLUX.1-dev.

המטרה העיקרית של האריזה הזו היא לאפשר הרצה מקומית של מודל תמונה כבד יחסית גם על כרטיסי מסך בסיסיים. במקום להוריד משקלים מקוריים ענקיים שדורשים כרטיסי שרת, הפורמט הזה דוחס את המידע ומאפשר גמישות בבחירת איכות התמונה לעומת צריכת הזיכרון.

מתאים ל

יצירת תמונות מקומית
הרצה ישירה על כרטיסי מסך בסיסיים בלי תלות בשרתים מרוחקים או חיבור לאינטרנט.
בניית תהליכים ב־ComfyUI
שילוב המודל בצינורות עבודה מורכבים לצד רכיבי Gemma 2 ו־VAE ייעודיים.
ניסוי ברמות כימות שונות
בדיקה מהירה של היחס בין איכות התמונה לצריכת זיכרון VRAM מקומי.

איפה זה נופל

ההתקנה לא מגיעה כקובץ אחד מוכן לשימוש. צריך לאסוף ידנית את המודל, את הטוקנייזר, את מקודד הטקסט ואת ה־VAE, ולחבר ביניהם נכון בסביבת העבודה.

מעבר לכך, כימותים נמוכים כמו q2_k מקצצים משמעותית בדיוק של המשקלים, מה שעלול לפגוע בפרטים קטנים או ביכולת של המודל לעקוב אחרי הנחיות מורכבות. כרטיס המודל גם לא מציג מדדי דיוק רשמיים, כך שתצטרכו לבחון בעצמכם את איכות הפלט בכל רמת כימות.

שאלות
נפוצות

אני צריך להוריד את כל 62 הגיגה-בייט שבמאגר?

ממש לא. המאגר כולל עשרות קבצים ורמות דחיסה שונות. אתם צריכים לבחור רק קובץ GGUF אחד ברמת הכימות שמתאימה לזיכרון של כרטיס המסך שלכם, יחד עם קובצי המקודד וה־VAE הנלווים.

איך מחליטים בין q2_k לבין q8_0?

ההבדל הוא בין חיסכון בזיכרון לבין איכות הפלט. גרסת q8_0 שומרת על דיוק גבוה מאוד אבל תופסת יותר נפח, בעוד q2_k רזה בהרבה ויכולה לרוץ על חומרה חלשה במחיר של ירידה מסוימת בפרטים של התמונה.

איך מריצים

יש שתי דרכים פשוטות להריץ אותו: ישירות דרך הכלי gguf-connector בפקודה פשוטה בטרמינל, או בתוך ComfyUI באמצעות gguf-node. אם אתם עובדים ב־ComfyUI, תצטרכו להוריד את קובץ המודל לתיקיית הדיפוזיה, לצד מקודד Gemma 2 שתופס 2.32 גיגה-בייט וקובץ VAE קטן של 168 מגה-בייט.

סך כל הקבצים במאגר שוקל מעל 62 גיגה-בייט בגלל ריבוי הגרסאות, אבל אתם מורידים רק קובץ כימות בודד שמתאים לכרטיס שלכם. ברמות הכימות הנמוכות אפשר לעבוד גם עם מעבדים גרפיים פשוטים ולקבל תוצאות תוך שניות בודדות, כך שאין סיבה לשלם על API חיצוני אם יש לכם חומרה סבירה בבית.

ollama run hf.co/calcuis/lumina-gguf:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

37 קבצים במאגר, 62.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות אותו ולהפיץ הלאה, כל עוד שומרים על הודעות זכויות היוצרים ומצרפים עותק של הרישיון המקורי. זה רישיון נוח ובטוח לשילוב בתוך מוצרים מסחריים.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗