sd3.5-large-gguf
קוד פתוחcalcuisother2024-10-24
גרסה מכווצת של Stable Diffusion 3.5 Large בפורמט GGUF, שמיועדת להרצה מקומית דרך ComfyUI. היא מאפשרת לייצר תמונות מטקסט בלי להחזיק כרטיס מסך מפלצתי של שרתים.
- 84Mפרמטרים
- 65.5 GBמשקל הקבצים
- 10,946הורדות בחודש
- 73לייקים
מה זה
המאגר הזה מציע המרה של מודל התמונות של Stability AI לקובצי GGUF, פורמט קוונטיזציה שמוכר בעיקר מעולמות מודלי השפה אבל חודר חזק גם לעיבוד תמונה. המטרה כאן פשוטה. המודל המקורי שוקל מעל 16 גיגה בייט בקובץ הבסיס שלו, מה שחונק כמעט כל כרטיס מסך ביתי ברגע שמנסים להעלות אותו לזיכרון יחד עם מקודדי הטקסט.
בגרסה הזו, קובץ ה־UNet המכווץ ברמת Q4_0 יורד למשקל של 4.77 גיגה בייט בלבד. כדי להפיק תמונה עדיין מחברים אליו את רכיבי העזר הרגילים, כולל מקודדי הטקסט clip_g, clip_l והמקודד הכבד t5xxl ששוקל לבדו כמעט חמישה גיגה בייט, לצד מודל VAE קטן. מי שמרכיב את החלקים האלה בתוך ComfyUI מקבל יכולת לייצר תמונות באיכות של המודל הגדול, בלי הצורך בחומרה ארגונית יקרה.
מתאים ל
- יצירת תמונות במחשב מקומי
מאפשר לייצר תמונות מורכבות דרך ComfyUI על מחשב אישי בלי לקרוס מחוסר זיכרון גרפי.
- בדיקות וניסויים מקומיים
מתאים לבדיקת יכולות המודל הגדול בלי לשלם על שרת ענן ייעודי עם נפח VRAM חריג.
- עבודה ללא חיבור רשת
כל הקבצים יושבים אצלכם, מה שמאפשר לייצר תמונות בסביבה מקומית ומבודדת לחלוטין.
איפה זה נופל
הכרטיס לא מציג מדדי ביצועים, זמני ריצה או נתונים על אובדן איכות בעקבות הדחיסה ל־Q4. מודלים של תמונות רגישים מאוד לקוונטיזציה נמוכה, ופרטים קטנים או טקסט בתמונה עלולים להיפגע בלי אזהרה מוקדמת. בנוסף, המערך הזה מוגבל לשפה האנגלית בלבד, כך שפרומפטים בעברית פשוט לא יעבדו בלי תרגום מקדים.
שאלות
נפוצות
האם המודל הזה מבין פרומפטים בעברית?
לא, המודל מאומן ותומך באנגלית בלבד. אם תכתבו תיאור בעברית התוצאות יהיו שגויות לחלוטין, ולכן חובה לתרגם את הטקסט לאנגלית לפני השליחה.
האם מספיק להוריד רק את קובץ ה־GGUF כדי להתחיל?
ממש לא, קובץ ה־GGUF מחליף רק את ליבת ה־UNet. כדי לקבל תמונה חייבים להוריד בנפרד גם את מקודדי הטקסט וה־VAE שמופיעים ברשימת ההתקנה, אחרת המערכת לא תרוץ.
איך מריצים
ההרצה מבוססת לחלוטין על ComfyUI בעזרת התוסף ייעודי ל־GGUF. התהליך ידני לחלוטין, מורידים את קובץ המודל המכווץ לתיקיית ה־unet, שמים את שלושת קובצי ה־CLIP בתיקייה שלהם, מוסיפים את ה־VAE, וטוענים את קובץ ה־workflow המצורף לדפדפן. יש גם חבילת bat מוכנה מראש שחוסכת התקנות.
מבחינת חומרה, למרות שה־UNet עצמו מכווץ לפחות מחמישה גיגה, חיבור כל המודלים יחד דורש כרטיס מסך עם זיכרון סביר כדי לא לזחול. אם אתם צריכים ייצור תמונות בודדות פעם ביום, עדיף להשתמש ב־API קיים במקום להוריד עשרות גיגה בייטים של רכיבים למחשב.
ollama run hf.co/calcuis/sd3.5-large-gguf:Q4_0
איזו גרסה
אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.
הקבצים
16 קבצים במאגר, 65.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
- sd3.5_large.safetensors16.5 GB
- sd3.5_large-f16.gguf16.3 GB
- sd3.5_large-q8_0.gguf8.8 GB
- sd3.5_large-q5_1.gguf6.3 GB
- sd3.5_large-q5_0.gguf5.8 GB
- sd3.5_large-q4_1.gguf5.3 GB
- t5xxl_fp8_e4m3fn.safetensors4.9 GB
- sd3.5_large-q4_0.gguf4.8 GB
- clip_g.safetensors1.4 GB
- clip_l.safetensors246.1 MB
- diffusion_pytorch_model.safetensors167.7 MB
- workflow-sd3.5-gguf.json12.6 KB
- workflow-sd3.5-safetensors.json12.2 KB
- LICENSE11.7 KB
- README.md2.0 KB
- .gitattributes1.9 KB
הרישיון
הרישיון מוגדר כ־other, כלומר תנאי שימוש מותאמים אישית שלא מפורטים בדף עצמו. המודל מבוסס ישירות על Stable Diffusion 3.5 Large של Stability AI, ולכן חלים עליו תנאי הרישיון המקוריים של חברת האם. לפני שילוב שלו במוצר מסחרי, חובה לבדוק ישירות את הרישיון של מודל המקור כדי לוודא שאינכם חורגים מהמותר.