stable-diffusion-3.5-medium-gguf

קוד פתוח

city96other2024-10-30

gguf
text-to-image
image-generation
stable-diffusion
en

גרסת GGUF מכווצת של מודל התמונה מבית Stability AI, שנועדה לחסוך זיכרון ולהקל על הרצה מקומית. הפתרון הזה רלוונטי למי שרוצה לעבוד עם ComfyUI בלי לחנוק את כרטיס המסך.

26.5 GBמשקל הקבצים
2,131הורדות בחודש
59לייקים

מה זה

מדובר בהמרה ישירה של המודל המקורי לפורמט GGUF בלי לבצע אימון מחדש או שינויים בארכיטקטורה. המודל מייצר תמונות מטקסט באנגלית, ומטרת ההמרה היא לאפשר למשתמשים ביתיים או מפתחים להריץ אותו עם צריכת VRAM נמוכה בהרבה לעומת משקלי המקור הכבדים.

במקום להוריד קובץ אחד ענק בפורמט הרגיל, המאגר מציע 16 קבצים שונים ברמות כימות משתנות, שמגיעים יחד לנפח כולל של 26.5 גיגה בייט. לא צריך להוריד את כולם אלא לבחור את רמת הדחיסה שמתאימה לחומרה שלכם. אין בעמוד תוצאות מדידה מספריות על ביצועי המודל עצמו, אלא קישור לטבלת השוואה כללית על סוגי כימות, מה שאומר שתצטרכו לבדוק בעצמכם איך הדחיסה משפיעה על איכות התמונה הסופית.

מתאים ל

עבודה מקומית ב־ComfyUI
מאפשר לשלב את המודל ישירות בתהליכי עבודה קיימים בתוכנה באמצעות צומת ייעודי.
ייצור תמונות בכרטיס ביתי
רמות הכימות מאפשרות להפיק תמונות גם על חומרה בלי עודפי זיכרון גדולים.
בדיקת רמות כימות שונות
היצע הקבצים מאפשר לבחון את האיזון המדויק בין איכות הפלט לנפח הזיכרון הנדרש.

איפה זה נופל

המודל תומך רק באנגלית, כך שפרומפטים בעברית פשוט לא יעבדו בלי תרגום מוקדם. מעבר לזה, מדובר בהמרה בלבד ולא בשיפור של מודל המקור, כך שכל הבעיות, העיוותים והמגבלות של הגרסה המקורית נמצאים גם כאן. בגלל שאין נתונים על פגיעה אפשרית באיכות בעקבות הכימות, תצטרכו לבדוק בעצמכם אם גרסאות הקצה הקלות לא מאבדות פרטים חיוניים.

שאלות
נפוצות

האם צריך להוריד את כל 16 הקבצים מהמאגר?

ממש לא. כל קובץ מייצג רמת כימות אחרת, וצריך להוריד רק את הקובץ הבודד שמתאים לנפח הזיכרון של כרטיס המסך שלכם.

האם המודל יבין הנחיות שכתובות בעברית?

לא, המודל אומן ומיועד לעבוד בשפה האנגלית בלבד. פרומפטים בעברית יפיקו תוצאות שגויות או ריקות לחלוטין.

איך מריצים

כדי להריץ אותו צריך להתקין את הצומת ComfyUI-GGUF של היוצר, ולהוריד רק את הקובץ ברמת הכימות שבחרתם ישירות לתוך התיקייה ComfyUI/models/unet. הדרישות לחומרה גמישות יחסית בגלל הכימות, כך שגם כרטיסי מסך צרכניים פשוטים יחסית יכולים להתמודד עם הקבצים הקלים יותר, בעוד שהקבצים הפחות דחוסים ידרשו כרטיס עם זיכרון מכובד.

אם אתם רק בודקים רעיון ראשוני או צריכים לייצר תמונות פעם בחודש, עדיף להשתמש ב־API מנוהל ולשלם לפי קריאה במקום להוריד עשרות גיגה בייטים ולהסתבך עם התקנות מקומיות של צמתים חיצוניים.

ollama run hf.co/city96/stable-diffusion-3.5-medium-gguf:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

F164.9 GB Q8_02.9 GB Q6_K2.3 GB Q5_12.2 GB Q5_K_M2.1 GB Q5_02.0 GB Q5_K_S2.0 GB Q4_11.9 GB Q4_K_M1.8 GB Q4_01.7 GB Q4_K_S1.7 GB Q3_K_M1.5 GB Q3_K_S1.4 GB

הקבצים

16 קבצים במאגר, 26.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון מוגדר בתור other ומפנה לתנאים המקוריים של חברת Stability AI. מכיוון שמדובר בהמרה ולא במודל חדש, כל המגבלות והאיסורים מהמקור חלים כאן במלואם. מומלץ לקרוא את הרישיון המקורי היטב לפני שמשלבים את הקבצים האלה במוצר מסחרי.

הרישיון המלא בעמוד המודל ↗