GPT
Q

qinglong_controlnet-lllite

קוד פתוח

bdsqlszcc-by-nc-sa-4.02023-09-16

  • diffusers
  • onnx

פתרון ControlNet קל משקל לאנימה וריאליזם, המחולק לעשרות מודלים ייעודיים. הוא מתאים למי שרוצה שליטה מדויקת ביצירת תמונות בלי להעמיס משקלי ענק של מודלי בקרה רגילים.

  • 4.1 GBמשקל הקבצים
  • 10,431הורדות בחודש
  • 355לייקים

מה זה

המאגר כולל עשרות קובצי בקרה המבוססים על ארכיטקטורת ControlNet-LLLite, שמקטינה את נפח המודל ביחס למודלי בקרה מלאים. הוא מכיל התאמות ייעודיות לסוגי קלט שונים, כולל חלוקת פנים באנימה, קווי מתאר, צבע, תאורה, עומק ומיפוי פוזות. חלק גדול מהמודלים אומן ספציפית על מודל הבסיס Kohaku-XL המיועד לאנימה, בעוד מודל הקווים הישרים MLSD אומן על ProtoVision XL, ומודל ה־Tile הריאליסטי נבנה סביב סדרת JuggernautXL.

בניגוד למודלי בקרה כלליים שמנסים לתפוס את כל הסגנונות במשקל יחיד, החלוקה כאן ממוקדת במשימות מוגדרות מאוד. למשל, מודל ה־Tile מגיע בשתי גרסאות נפרדות, גרסת אלפא ששומרת על קומפוזיציה ומאפשרת שינויים בעזרת פרומפטים ו־LoRA, וגרסת בטא שנועדה להגדלת רזולוציה תוך היצמדות מחמירה לפרטי המקור.

מתאים ל

  • הגדלת תמונות עם שמירת פרטים

    גרסת בטא של מודל ה־Tile מתאימה לחידוד והוספת פרטים בעת הגדלה של איורי אנימה קיימים.

  • שחזור צבע ותאורה

    המודלים הייעודיים לצבע ול־recolor luminance מחזירים גוונים לקווי מתאר ומאזנים אור.

  • שמירה על פוזה וקומפוזיציה

    גרסת אלפא של מודל ה־Tile מאפשרת שינוי סגנון ופרטים בעזרת פרומפט בלי להרוס את התנוחה.

איפה זה נופל

מודל ה־Tile הרגיל אומן על דאטה-סט של אנימה, והיוצר מבהיר במפורש שהתוצאות שלו על צילומי מציאות גרועות ודורשות מעבר לגרסה הריאליסטית. נוסף על כך, מודלים מסוימים דורשים קדם-עיבוד מאוד ספציפי, כמו כלי Anime-Face-Segmentation במודל הפנים, וללא השלבים האלה התוצאה נפגעת.

שאלות
נפוצות

האם אפשר להשתמש במודלים האלה בצמתי ControlNet הרגילים ב־ComfyUI?

לא. ארכיטקטורת LLLite דורשת צמתים ייעודיים מהתוסף של kohya-ss כדי שהמודל ייטען ויפעל בצורה תקינה.

האם מודל ה־Tile מתאים לתמונות פוטוריאליסטיות?

הגרסה המקורית אומנה על אנימה בלבד ואינה מתאימה לצילומים. לשימושים ריאליסטיים יש להשתמש בגרסת ה־Tile_Realistic שאומנה על JuggernautXL.

איך מריצים

המודלים נתמכים בספריית diffusers וניתנים להרצה מקומית באמצעות ComfyUI עם תוסף ControlNet-LLLite ייעודי של kohya-ss, או דרך תוסף sd-webui-controlnet ב־Automatic1111. שימו לב שב־ComfyUI נדרשים צמתים ייעודיים ולא צמתי ה־ControlNet הרגילים.

המאגר כולו שוקל 4.1 גיגה בייט ומחולק ל־92 קבצים נפרדים, כך שאין צורך להוריד את כולם יחד אלא רק את המשקולות הרלוונטיות למשימה שלכם. מודלי הבסיס הם ממשפחת SDXL, ולכן תזדקקו לכרטיס מסך עם מספיק זיכרון להרצת הפיפיליין המלא של SDXL יחד עם הבקרה.

from diffusers import DiffusionPipeline

pipe = DiffusionPipeline.from_pretrained("bdsqlsz/qinglong_controlnet-lllite")
img = pipe("a photo").images[0]

הקבצים

92 קבצים במאגר, 4.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא cc-by-nc-sa-4.0. המשמעות היא שאין אישור לשימוש מסחרי, נדרש מתן קרדיט ליוצר, וכל שינוי או נגזרת שתפיצו חייבים להיות תחת אותם תנאי רישיון בדיוק.

  • שינוי הקוד
  • חובת ייחוס
  • שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗