GPT
הוספת כלי
N

Nunchaku-Qwen-Image-2512

קוד פתוח

QuantFuncapache-2.02026-01-19

  • diffusers
  • custom_qwen_image
  • image-generation
  • multimodal
  • qwen

גרסה מכווצת בארבעה ביטים של מודל התמונות מבית עליבאבא, שמיועדת להאצת יצירה בתוך קומפי יו איי. היא מציעה ריצה מקומית מהירה פי שניים עד פי אחד עשר ביחס למשקלים המקוריים.

  • 72.6 GBמשקל הקבצים
  • 1,521הורדות בחודש
  • 90לייקים

מה זה

המאגר מכיל שחזור מכווץ של מודל יצירת התמונות על בסיס שיטת קוונטיזציה של נונצ'אקו ו־SVDQuant. הכוונה המרכזית כאן היא לחתוך את זמני ההסקה הכבדים של מודל המקור, תוך שמירה על דיוק ויזואלי סביר באמצעות שילוב של דרגות דחיסה שונות בפורמטים של INT4 ו־FP4. המפתחים ארזו את המשקלים מראש לעבודה ישירה מול מנוע הסקה ייעודי ב־C++ ו־CUDA, כדי לעקוף את צווארי הבקבוק הרגילים של פייתון.

בפועל, המאגר מציע שש גרסאות שונות שנבדלות ברמת הדירוג הנמוך שלהן, מדרגה של 32 ששמה דגש על מהירות מקסימלית ועד דרגה של 256 שמכוונת לאיכות הגבוהה ביותר. ההבטחה לשיפור של פי שניים עד אחד עשר במהירות תלויה ישירות בגרסה שתבחרו ובחומרה שעליה תריצו אותה.

מתאים ל

  • עבודה מהירה בקומפי יו איי

    מתאים ליוצרים שעובדים מקומית על כרטיסי RTX ורוצים זמני יצירה קצרים בהרבה מתחנות עבודה רגילות.

  • ייצור תמונות ב־4 שלבים

    משתלב עם תהליכי לורה מקוצרים למי שצריך תפוקה גדולה של תמונות במינימום שניות.

  • הסקה על כרטיסי בלקוול

    מנצל את התמיכה המקורית בחישובי FP4 בחומרה חדשה לטובת חיסכון במשאבי שרת.

איפה זה נופל

המאגר תומך רשמית בהנחיות באנגלית ובסינית בלבד, כך שלא כדאי לבנות על עברית ללא תרגום מקדים. בנוסף, מדובר בפרויקט עצמאי שלא קשור רשמית ליוצרי המודל המקורי או למפתחי שיטת נונצ'אקו ב־MIT, מה שאומר שאתם תלויים בתוסף ייעודי ובספריות בינאריות סגורות כדי לקבל את המהירות המובטחת. כיווץ ל־4 ביט, במיוחד בגרסאות המהירות של דרגה 32, גורר בהכרח פשרות בפרטים הקטנים של התמונה.

שאלות
נפוצות

האם אני חייב להוריד את כל 72 הגיגה בייט כדי להשתמש במודל?

לא. המאגר מכיל שש גרסאות כיווץ שונות, וצריך להוריד רק את הקובץ של התצורה שמעניינת אתכם, למשל גרסת האיכות או המהירות בפורמט שמתאים לכרטיס המסך שלכם.

האם המודל מבין פרומפטים בעברית?

המודל מאומן ומקוטלג עבור אנגלית וסינית בלבד. אם תכתבו לו בעברית התוצאות יהיו לא צפויות או שגויות לגמרי, ולכן צריך לתרגם את ההנחיות לפני השליחה.

האם אפשר להריץ אותו בספריית דיפיוזרס רגילה בלי התוסף?

המשקלים עברו התאמה ייעודית למנוע ההסקה של קוואנט פאנק. כדי לקבל את שיפורי הביצועים המובטחים, הריצה דורשת שימוש בתוסף שלהם או בסביבת נונצ'אקו תואמת.

איך מריצים

כדי להשתמש במשקלים האלה צריך להוריד את התוסף של קוואנט פאנק לתוך קומפי יו איי, שכולל ספריות C++ ו־CUDA מקומיות ללא תלות ישירה במודלים של פייתון. התוסף תומך במגוון כרטיסי אנבידיה מסדרות RTX 20 ומעלה ועד שרתי H100 או בלקוול, כשתמיכה מקורית ב־FP4 מתאפשרת בארכיטקטורת בלקוול.

סך המשקלים במאגר מגיע ל־72.6 גיגה בייט בגלל ריבוי הגרסאות, אבל בפועל מורידים רק את המשקל הספציפי שמתאים לאיזון שלכם בין מהירות לאיכות. אם אין לכם כרטיס מסך מודרני עם מספיק זיכרון וידאו להרצת מודלי תמונה כבדים, עדיף להשתמש ב־API חיצוני של מודל המקור במקום להסתבך עם התקנות מקומיות של דרייברים וספריות מהודרות.

from diffusers import DiffusionPipeline

pipe = DiffusionPipeline.from_pretrained("QuantFunc/Nunchaku-Qwen-Image-2512")
img = pipe("a photo").images[0]

הקבצים

20 קבצים במאגר, 72.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא אפאצ'י 2.0, שמאפשר שימוש מסחרי, שינוי קוד והפצה חופשית. אתם יכולים לשלב את המשקלים במוצר מסחרי, כל עוד אתם שומרים על הצהרת זכויות היוצרים של המקור ושל מבצעי הכווץ ומציינים שנעשו שינויים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗