encoder

קוד פתוח

chatpigapache-2.02025-01-28

gguf
gguf-node
en

מדובר במאגר קבצים ענק שמכיל מקודדי טקסט לצינורות יצירת תמונה כמו ComfyUI. הוא מיועד למי שמחפש משקלים ספציפיים כמו T5 או CLIP בלי להוריד מודלי בסיס שלמים.

169 GBמשקל הקבצים
3,904הורדות בחודש
40לייקים

מה זה

המאגר הזה של chatpig מרכז שורה של מקודדי טקסט פופולריים, בעיקר t5xxl שמבוסס על t5-v1_1-xxl של גוגל, לצד גרסאות שונות של CLIP בפורמט GGUF, Gemma 2, ו־Qwen2.5-VL. המטרה פה היא לא להריץ צ'אט או משימות טקסט כלליות, אלא להשתמש בחלק שממיר הנחיות טקסט לייצוג וקטורי בתוך מודלי דיפוזיה.

במקום שתחלצו את המקודד מתוך מודלים מלאים בעצמכם, chatpig חתך וארז אותם מוכנים לשימוש. המאגר כולל חלופות בדיוקים שונים, כולל FP8, FP16 ו־FP32, לצד גרסאות קטנות יותר כמו t5xl או t5base, כך שאפשר להתאים את רמת הדיוק למגבלות הזיכרון שלכם.

מתאים ל

קידוד טקסט ב־ComfyUI
חיבור ישיר של t5xxl או CLIP לצינור יצירת תמונות כדי להבין פרומפטים ארוכים ומורכבים.
חיסכון בזיכרון גרפי
שימוש בגרסאות t5xl או קובצי FP8 במקום להחזיק מודל מלא שתופס את כל כרטיס המסך.
בדיקות עם ראייה ממוחשבת
שילוב מקודד מבוסס Qwen2.5-VL במערכות שדורשות עיבוד משולב של תמונה וטקסט.

איפה זה נופל

התיעוד בעמוד כמעט לא קיים. אין שום פירוט על איך הקבצים הומרו, איזה שינויים נעשו בהם אם בכלל, ואין מבחני ביצועים שמראים אם יש ירידה באיכות בגרסאות המכווצות. בנוסף, המודלים האלה מוגדרים לאנגלית בלבד, כך שהם לא יבינו הנחיות בעברית בלי תרגום מוקדם.

שאלות
נפוצות

האם צריך להוריד את כל 169 הגיגה־בייט של המאגר?

ממש לא. המאגר הוא אוסף של קבצים נפרדים בדיוקים ופורמטים שונים. מורידים רק את הקובץ הספציפי שמתאים למודל היצירה שלכם, למשל קובץ t5xxl בודד.

האם המקודדים האלה מסוגלים לענות על שאלות כמו מודל שפה רגיל?

לא. מדובר רק בחלק הקידוד של הטקסט שנועד להעביר ייצוג וקטורי למודל אחר, לרוב מודל דיפוזיה שמייצר תמונות. אין פה מנגנון יצירת טקסט.

איך מריצים

בפועל מורידים רק את הקובץ הספציפי שאתם צריכים וזורקים אותו לתיקיית text_encoders בממשק כמו ComfyUI. אין שום סיבה להוריד את כל 169 הגיגה־בייט שנמצאים כאן, אלא אם אתם מנהלים שרת שמשתף משקלים לכמה עמדות עבודה במקביל.

המשקל של t5xxl המקורי כבד מאוד ודורש כרטיס מסך חזק עם שפע זיכרון וידאו כדי לרוץ לצד מודל התמונה עצמו. אם כרטיס המסך שלכם מוגבל, עדיף לבחור בגרסאות ה־FP8 או בפורמטים מכווצים של GGUF, או פשוט לקרוא לשירות ענן שמחזיק את כל הצינור מוכן.

ollama run hf.co/chatpig/encoder:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

safetensors130.3 GB F169.5 GB Q8_05.1 GB Q6_K3.9 GB Q5_K_M3.4 GB Q2_K3.3 GB Q5_K_S3.3 GB Q5_03.3 GB Q4_02.9 GB Q4_K_M2.9 GB Q4_K_S2.7 GB Q3_K_L2.5 GB Q3_K_M2.3 GB Q3_K_S2.1 GB Q2_K1.8 GB F161.4 GB F16246.1 MB Q4_0126.7 MB

הקבצים

45 קבצים במאגר, 169 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון המדווח הוא Apache 2.0. מותר להשתמש בקבצים לצרכים מסחריים, לשנות אותם ולשלב אותם במוצרים שלכם, כל עוד שומרים על הודעת הרישיון המקורית ומציינים שינויים. יש לוודא שרישיונות המקור של כל ארכיטקטורה, כמו גוגל או עליבאבא, לא מגבילים אתכם מעבר לכך.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗