stable-diffusion-3.5-large-turbo-gguf
קוד פתוחcity96other2024-10-23
גרסת קוונטיזציה של מודל התמונות המהיר מבית סטביליטי, שמיועדת להרצה מקומית בלי לחסל את הזיכרון. היא חוסכת משאבים ומייצרת תמונות בכמה צעדים בודדים ישירות מתוך סביבת העבודה שלכם.
- 43.9 GBמשקל הקבצים
- 3,736הורדות בחודש
- 77לייקים
מה זה
מדובר בהמרה ישירה לפורמט GGUF של המודל הגדול והמהיר מבית סטביליטי. במקום להחזיק משקלים כבדים בזיכרון של כרטיס המסך, המודל הזה דחוס בשיטות קוונטיזציה שונות כדי לאפשר הרצה על חומרה מקומית נגישה יותר. כיוון שמדובר בגרסת טורבו, הוא מייצר תמונה בכמות קטנה מאוד של צעדים ביחס למודלים רגילים, מה שמקצר את זמן ההמתנה לכל פלט בצורה משמעותית.
הקובץ לא עבר אימון נוסף אלא רק דחיסה מתמטית ישירה מהמקור. הוא מתמקד ביצירת תמונות מטקסט בשפה האנגלית, בלי שינויים בארכיטקטורה הפנימית. מי שמחפש לשלב אותו בתהליכי עבודה מקומיים מקבל כאן את אותן היכולות של המקור, רק באריזה שמותאמת לכלים כמו קומפי ומאפשרת לשחק עם רמות דחיסה שונות לפי כרטיס המסך שיש לכם.
מתאים ל
- עבודה בתוך ComfyUI
הקבצים מותאמים ישירות לתוסף הייעודי של קומפי ומאפשרים שילוב מהיר בפייפליין קיים.
- בדיקת פרומפטים מהירה
גרסת הטורבו מייצרת תמונות במספר צעדים קטן, מה שמתאים לניסוי וטעייה מקומיים.
- הרצה מקומית על כרטיס מוגבל
פורמט ה־GGUF מאפשר לבחור רמת דיוק נמוכה יותר כדי להתאים לזיכרון הקיים בחומרה שלכם.
איפה זה נופל
היוצר מציין במפורש שמדובר בהמרה בלבד ולא באימון מתקן, כך שכל המגבלות והבעיות של המודל המקורי מבית סטביליטי קיימות כאן במלואן. בנוסף, המודל אומן ותומך באנגלית בלבד, כך שפרומפטים בעברית לא יעבדו בלי תרגום מקדים. קוונטיזציות אגרסיביות יותר עלולות גם לפגוע בפרטים הקטנים של התמונה.
שאלות
נפוצות
איזה קובץ צריך להוריד מתוך כל הקבצים שבעמוד?
אין צורך להוריד את כל ה־43.9 גיגה בייט. בוחרים קובץ בודד לפי רמת הקוונטיזציה והזיכרון הפנוי בכרטיס המסך שלכם, כפי שמוסבר בטבלאות הביצועים של הפורמט.
האם המודל מבין הוראות שנכתבו בעברית?
לא. המודל מוגדר עבור השפה האנגלית בלבד. אם תזינו טקסט בעברית תקבלו תוצאות לא צפויות או שגויות, ולכן צריך לתרגם את הבקשה לאנגלית לפני השליחה.
איך מריצים
כדי להריץ אותו בפועל תצטרכו את התוסף ComfyUI-GGUF מגיטהאב. מורידים את אחד הקבצים המתאימים מתוך תשעת הקבצים שבעמוד ושמים אותו בתיקיית unet בתוך קומפי.
המשקל הכולל של כלל הגרסאות מגיע ל־43.9 גיגה בייט, אבל אתם מורידים רק קובץ אחד שמתאים לזיכרון שלכם לפי סוג הקוונטיזציה. אם אין לכם כרטיס מסך ייעודי חזק שיכול להחזיק מודל כזה, עדיף להשתמש ב־API מרוחק במקום להעמיס על המחשב המקומי.
ollama run hf.co/city96/stable-diffusion-3.5-large-turbo-gguf:Q4_0
איזו גרסה
אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.
הקבצים
9 קבצים במאגר, 43.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון מוגדר כ־other ואינו רישיון קוד פתוח חופשי רגיל. היוצר מבהיר שתנאי הרישיון המקוריים וההגבלות של סטביליטי חלים כאן במלואם. אם אתם מתכננים להכניס את זה למוצר מסחרי, חובה לבדוק את תנאי השימוש של מודל המקור כדי לא להפר אותם.