Z-Image-Turbo-SDNQ-uint4-svd-r32

מה זה

מדובר בכימות של Z-Image-Turbo המקורי באמצעות שיטת SDNQ עם SVD rank 32. המודל שייך למשפחת מחוללי התמונות מטקסט, עם כ־3.3 מיליארד פרמטרים, אבל הדחיסה מורידה אותו מנפח מקורי של 12.3 גיגה-בייט לכ־3.5 גיגה-בייט נטו למשקולות הדחוסות. סך כל הקבצים שיושבים במאגר שוקל 6.1 גיגה-בייט, והוא מתממשק ישירות עם diffusers.

במקום לסחוב קבצי BF16 כבדים, הדחיסה ל־UINT4 נועדה לשמור על מבנה התמונה בלי לאבד לגמרי את האיכות. לפי תמונות ההשוואה שצורפו, הגרסה המכווצת מצליחה לשמור על קומפוזיציה וצבעים קרובים מאוד למקור, אם כי כימות אגרסיבי כזה לרוב מגיע עם פשרות מסוימות בפרטים הקטנים.

מתאים ל

• הרצה מקומית על כרטיס ביתי

  משקל של 3.5 גיגה-בייט מתאים לכרטיסי מסך צרכניים פשוטים בלי לחרוג ממגבלות הזיכרון.

• שילוב בצינור עיבוד תמונות

  עבודה מהירה בתוך סביבת diffusers קיימת, ללא עלויות פר קריאה של שירותי צד שלישי.

• פיתוח ובדיקות אופליין

  מאפשר לייצר תמונות לבדיקות ממשק או מערכת ישירות על מחשב הפיתוח בלי חיבור לרשת.

איפה זה נופל

כימות לרמה של 4 ביט עם SVD תמיד גובה מחיר. הכרטיס מציג רק השוואה ויזואלית אחת, ואין בו מדדי איכות כמותיים או פירוט לגבי יכולות המודל בשפות שאינן אנגלית, כמו עברית. לפני שמשלבים אותו במערכת אמיתית, חובה לבדוק איך הוא מתמודד עם טקסטים מורכבים בתוך תמונה, עיוותים באנטומיה, ואיבוד חדות באזורים מפורטים, שנוטים להיפגע במעבר מ־BF16.

איך מריצים

כדי להריץ אותו צריך להתקין את החבילה sdnq לצד diffusers. בזכות הכיווץ ל־3.5 גיגה-בייט, אפשר לדחוף אותו לכרטיסי מסך ביתיים עם 8 או 12 גיגה זיכרון גרפי בלי להיחנק מחוסר מקום, משהו שבגרסת ה־BF16 המקורית דרש כרטיסים חזקים ויקרים בהרבה.

אם אתם צריכים רק תמונה פעם בשעה או שאין לכם כרטיס תואם עם תמיכה מתאימה ב־CUDA, עדיף פשוט לצרוך מודל כזה דרך ספק ענן או API חיצוני. הרצה מקומית משתלמת רק אם יש לכם צורך ברינדור מקומי מהיר ורציף בלי לשלם על כל קריאה.

from diffusers import DiffusionPipeline

pipe = DiffusionPipeline.from_pretrained("Disty0/Z-Image-Turbo-SDNQ-uint4-svd-r32")
img = pipe("a photo").images[0]

הקבצים

17 קבצים במאגר, 6.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• transformer/diffusion_pytorch_model.safetensors3.5 GB
• text_encoder/model.safetensors2.8 GB
• vae/diffusion_pytorch_model.safetensors167.7 MB
• tokenizer/tokenizer.json11.4 MB
• tokenizer/vocab.json2.8 MB
• tokenizer/merges.txt1.7 MB
• tokenizer/tokenizer_config.json9.7 KB
• text_encoder/config.json2.7 KB
• README.md2.2 KB
• .gitattributes1.6 KB
• transformer/config.json1.3 KB
• text_encoder/quantization_config.json1.0 KB
• vae/config.json920 B
• transformer/quantization_config.json723 B
• scheduler/scheduler_config.json487 B
• model_index.json457 B
• text_encoder/generation_config.json214 B

הרישיון

הרישיון הוא Apache 2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי של הקוד והפצה מחדש בתוך מוצרים, כל עוד שומרים על הודעת זכויות היוצרים ומצרפים עותק של הרישיון המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗