GPT
R

Rebels_w4a8s

קוד פתוח

realrebelaiother2026-08-07

  • w4a8
  • quantized
  • int4
  • comfyui
  • comfy-kitchen

אוסף המרות של מודלי תמונה ווידאו עדכניים בכימות חסכוני, שמיועד למי שרוצה להריץ משקלים כבדים ישירות על ליבות ה־Tensor בלי לפתוח אותם מחדש בזיכרון.

  • 119 GBמשקל הקבצים
  • 1,225הורדות בחודש
  • 71לייקים

מה זה

המאגר כולל גרסאות מכומתות של מודלי תמונה ווידאו מגוונים, מ־Flux2 ו־Z-Image ועד Wan-Animate ו־MiniMax בנפח של עד 33.1 מיליארד פרמטרים. ההבדל המשמעותי כאן לעומת GGUF מוכר הוא מסלול החישוב. בעוד ש־GGUF פורק את המשקלים חזרה ל־fp16 לפני פעולת המטריצות, הפורמט הזה שומר את החישוב כולו ב־int8 לאורך כל הדרך עם שגיאת משקל נמדדת של כ־7% relL2, בצפיפות של כ־0.56 בייטים לפרמטר.

ההמרה מתבצעת בלי כיול של דאטה־סט וללא פגיעה בשכבות רגישות. מובילי זמן, הקרנות התניה ושכבות הפלט הסופיות נשארים ב־F16 או F32 כדי לא לפרק את לוח הזמנים של המודל. בנוסף, שכבות שאינן מתחלקות ב־256 נשמרות ב־int8 ייעודי כדי למנוע קריסות בזמן טעינה.

מתאים ל

  • הרצה מקומית בחומרה מוגבלת

    Flux2-Klein-4B שוקל 2.46GB ומאפשר הפקת תמונות מקומית אפילו על כרטיסי מסך עם זיכרון של 6GB.

  • הנפשת וידאו מבוססת תנועה

    Wan-Animate-2-TURBO מייצר וידאו בנפח של 9.59GB כשמקפידים על התאמת פוזיציית הפתיחה לתמונת הרפרנס.

  • יצירה מהירה במספר צעדים נמוך

    Z-Image-Turbo מפיק תמונות ב־8 צעדים ו־CFG 1.0 תוך תפיסת שטח דיסק של 3.67GB בלבד.

איפה זה נופל

האוסף עדיין בעבודה וחלק מהדגמים לא מוכנים לעבודה יציבה. הכרטיס מציין במפורש ש־SCAIL-2-14B ו־Qwen-Image-2512 דורשים עוד עבודה. ב־Wan-Animate יש תלות קשיחה בתמונת המקור, שחייבת להתאים בדיוק לפוזיציית הפתיחה של הווידאו המניע אחרת התוצאה משתבשת. בנוסף, מודלים מזוקקים מחייבים שימוש במספר צעדים וערכי CFG קשיחים כמו 1.0, ושימוש בהגדרות ברירת מחדל של מודל הבסיס יוביל לתוצאות פגומות בלי קשר לכימות.

שאלות
נפוצות

למה לא להשתמש פשוט ב־GGUF הרגיל?

קבצי GGUF אמנם קטנים על הדיסק, אבל בכל מעבר הם מחזירים את המשקלים ל־fp16 לפני הכפל במטריצה. הפורמט כאן שומר על חישוב ב־int8 לכל אורך הדרך ומנצל את ליבות ה־Tensor בלי פריקה מקדימה.

האם חובה להתקין צומת מיוחד ב־ComfyUI כדי לטעון את המודל?

לא. המודלים נטענים ישירות עם הצומת המובנה Load Diffusion Model, אבל חייבים ComfyUI 0.30.0 ומעלה ואת ספריית comfy-kitchen כדי שהקרנלים ירוצו בחומרה ולא באמולציה איטית.

אפשר להשתמש בכל הקבצים באוסף למוצר מסחרי?

לא באופן גורף. הרישיון המקורי של כל מודל נשאר בתוקף, כך שבעוד חלק מהקבצים מחזיקים ברישיון חופשי לחלוטין, דגמים אחרים מגיעים עם הגבלות מסחריות שצריך לבדוק פרטנית.

איך מריצים

כדי להריץ אותם בפועל צריכים ComfyUI בגרסה 0.30.0 ומעלה יחד עם תוסף comfy-kitchen, שמספק את הקרנלים למעבדי NVIDIA או AMD. זורקים את קובץ ה־safetensors לתיקיית diffusion_models וטוענים אותו ישירות עם צומת ברירת המחדל Load Diffusion Model בלי צמתים מותאמים אישית. בעלייה חובה לוודא שהפורמט מופיע תחת Native ops ולא תחת אמולציה שמאבדת את יתרון הביצועים.

דרישות החומרה נעות בין כרטיסים צנועים של 6GB עבור Flux2-Klein-4B ששוקל 2.46GB, ועד מפלצות שדורשות זיכרון נרחב עבור דגמי וידאו כמו MiniMax שתופס 24.5GB. אם אין לכם חומרה ייעודית עם ליבות מתאימות שתומכות בהרצה מקומית, פנייה ל־API חיצוני תחסוך את כאב הראש.

pip install -U huggingface_hub
hf download realrebelai/Rebels_w4a8s

הרישיון

הרישיון מוגדר כ־other מאחר שזהו אוסף נגזרות של מודלים שונים. כל מודל נושא עמו את רישיון המקור שלו, וחלקם אינם מתירניים. Flux2-Klein-4B מגיע תחת Apache-2.0 ומאפשר שימוש מסחרי חופשי, אך דגמים אחרים דורשים בדיקה פרטנית של תנאי המקור לפני הטמעה במוצר מסחרי.

הרישיון המלא בעמוד המודל ↗