GPT
הוספת כלי
D

DanTagGen-alpha

קוד פתוח

KBlueLeafopenrail2024-03-11

  • transformers
  • safetensors
  • gguf
  • llama
  • text-generation

המודל מרחיב תגיות בסגנון Danbooru כדי לשפר פרומפטים של תמונות אנימה. הוא שוקל פחות מ־400M פרמטרים ורץ מהר כמעט על כל מכונה.

  • 393Mפרמטרים
  • 512טוקנים בהקשר
  • 2.9 GBמשקל הקבצים
  • 11,003הורדות בחודש

מה זה

מדובר במודל שפה שנבנה מאפס על בסיס ארכיטקטורת LLaMA עם 24 שכבות, שנועד למשימה אחת בלבד: השלמת תגיות לפרומפטים של יצירת תמונות. הוא מקבל שדות מוגדרים כמו דירוג תוכן, אמן, דמויות ויחס תמונה, ופולט רשימת תגיות Danbooru מתאימה להמשך הפרומפט.

האימון נעשה באמצעות HakuLLM על מאגר דאטה מתוך Danbooru שנשלף בעזרת HakuBooru וסונן לפי אחוזוני מועדפים, בשני שלבים של 2 מיליון ו־5.3 מיליון רשומות, כך שהוא ראה בין 6 ל־12 מיליארד טוקנים. אין כאן מודל שיחה כללי, אלא מנוע ממוקד שנועד לתת תוצאות מדויקות יותר למי שמחפש תחליף לפרויקטים כמו DART.

מתאים ל

  • הרחבת פרומפטים לאנימה

    השלמת תגיות תיאור וסגנון אוטומטית מתוך קלט בסיסי לפני שליחה למודל תמונה.

  • תוספים ל־sd-webui

    שילוב ישיר בממשקי יצירה כמנוע מקומי שמציע תגיות רלוונטיות בזמן אמת.

  • סידור קלטים מובנה

    בניית פרומפטים מסודרים לפי חלוקה של אמן, דירוג ודמויות בפורמט קבוע מראש.

איפה זה נופל

חלון ההקשר מוגבל ל־512 טוקנים בלבד, כך שאי אפשר להעמיס עליו רשימות ענק או טקסטים חופשיים ארוכים. הוא תומך באנגלית בלבד ומחייב פורמט קלט קשיח ומאוד ספציפי עם תגיות מיוחדות, אחרת התוצאות משתבשות. בנוסף, מדובר בגרסת אלפא ראשונית שמוגבלת לתחום התוכן והתגיות של Danbooru ולא יודעת לטפל בשום משימת טקסט אחרת.

שאלות
נפוצות

אפשר להשתמש בו כמודל צ'אט רגיל?

לא. המודל אומן מאפס על שדות תגיות ומאגר Danbooru בלבד, ואין לו יכולת לנהל שיחה, לענות על שאלות או להבין שפה טבעית רגילה.

כמה זיכרון דרוש כדי להריץ אותו?

מעט מאוד. בגרסת GGUF מכומתת של 6 או 8 ביט אפשר להריץ אותו כמעט על כל מחשב עם כמה מאות מגה-בייט של זיכרון עבודה, אפילו בלי כרטיס מסך ייעודי.

איך מריצים

המשקל המלא של הקבצים עומד על 2.9GB ב־float32, אבל בגלל שמדובר בארכיטקטורת LLaMA סטנדרטית יש גם המרות ל־GGUF ב־FP16 וכימותים של 6 ו־8 ביט. אפשר להריץ אותו עם transformers, אבל הכותב ממליץ לעבוד עם llama.cpp או llama-cpp-python כדי לקבל ביצועים מהירים מאוד.

בגודל כזה של כ־393 מיליון פרמטרים אין צורך בשרתים יקרים או בכרטיסי מסך כבדים, וכל מעבד מודרני מריץ אותו מקומית בלי לחשוב על API חיצוני.

ollama run hf.co/KBlueLeaf/DanTagGen-alpha:Q6_K

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

safetensors1.6 GB F16786.3 MB Q8_0418.2 MB Q6_K323.1 MB

הקבצים

12 קבצים במאגר, 2.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון מדווח כ־openrail. ברישיון כזה בדרך כלל מותר להשתמש במודל, לשנות אותו ולהפיץ אותו, כולל שימוש מסחרי, אבל יש הגבלות ספציפיות על תחומי שימוש אסורים שנועדו למנוע ניצול לרעה. אם אתם משלבים אותו במוצר, צריך לבדוק את התנאים המדויקים של גרסת ה־OpenRAIL כדי לוודא שאין התנגשות עם אופי השימוש.

  • שימוש מסחרי
  • שינוי הקוד
  • מגבלות שימוש ברישיון

הרישיון המלא בעמוד המודל ↗