gemma-3-12b-it-heretic

מה זה

מדובר במודל שנוצר באמצעות כלי בשם Heretic על גבי הדגם המקורי של גוגל. המטרה כאן היא ביטול מנגנוני הבטיחות שגורמים למודל לסרב לבקשות יצירתיות, או לעדן מושגים מסוימים בטקסט לפני שהם מגיעים למודל הווידאו. לפי הבדיקה של היוצר, שיעור הסירובים צנח מ־100 מתוך 100 בדגם המקורי ל־7 מתוך 100 בגרסה הזו, עם מדד KL של 0.0826 שמצביע על פגיעה מינימלית בלבד ביכולות הכלליות.

היוצר עצמו בדק אם השינוי באמת משפיע על יצירת הווידאו ב־LTX-2, ומודה שההבדל קטן מאוד. רוב השינוי של הסרת הסינון יושב בשכבה 48, שהיא שכבת ההחלטה האחרונה, בזמן שמודל הווידאו מחשב ממוצע של כל השכבות וכנראה מטשטש את ההשפעה. בנוסף, כבר קיימת גרסה 2 של אותו מודל עם יכולות ראייה ותמיכה בכימותים מתקדמים יותר.

מתאים ל

• מקודד טקסט ל־LTX-2

  חיבור ישיר ב־ComfyUI כדי לקבל פרומפטים מורכבים ללא צנזורה או עידון של מושגים חזותיים.

• כתיבה יוצרת ללא חסימות

  הרצה מקומית דרך llama.cpp לכתיבת סיפורים ועלילות שהדגם המקורי של גוגל מסרב לייצר.

• בדיקות השוואת סינון

  מחקר על השפעת הסרת סירובים בשכבות שונות לעומת ביצועי המודל המקורי.

איפה זה נופל

הגרסה הזו מגיעה ללא יכולות ראייה כלל, בניגוד לדגם המקורי, ולכן לא תעבוד עם צמתים מסוימים ב־ComfyUI כמו TextGenerateLTX2Prompt. הסירובים ירדו אבל לא נעלמו לגמרי, 7 מתוך 100 עדיין נחסמים. חוץ מזה, היוצר מציין במפורש שגרסה 2 שלו עדיפה, כך שאין סיבה טובה לבחור דווקא בגרסה הזו כיום, במיוחד כשלא ברור אם הסרת הסינון בכלל משפרת את הווידאו הסופי.

אותה משפחה

gemma-3-12b-it-heretic יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

יש כאן שלוש דרכים עיקריות להרצה, בהתאם לשימוש שלכם. אם אתם עובדים ב־ComfyUI ומחברים אותו ל־LTX-2, מורידים את קובץ ה־safetensors המתאים לתקיית text_encoders, כאשר גרסת ה־fp8 שוקלת 11GB וגרסת ה־bf16 תופסת 22GB זיכרון כרטיס מסך.

לשימוש כללי בטקסט דרך llama.cpp, היוצר ממליץ על קובץ ה־GGUF בכימות Q4_K_M ששוקל 6.8GB ורץ בקלות על כרטיס מסך ביתי בסיסי עם 8GB זיכרון. מי שרוצה איכות מקסימלית יכול לקחת את Q8_0 שדורש 12GB זיכרון, או לעבוד ישירות בספריית transformers הרגילה בפייתון אם יש לכם חומרה חזקה יותר.

ollama run hf.co/DreamFast/gemma-3-12b-it-heretic:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

26 קבצים במאגר, 134 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• comfyui/gemma_3_12B_it_heretic.safetensors23.5 GB
• gguf/gemma-3-12b-it-heretic-f16.gguf23.5 GB
• comfyui/gemma_3_12B_it_heretic_fp8_e4m3fn.safetensors12.8 GB
• gguf/gemma-3-12b-it-heretic-Q8_0.gguf12.5 GB
• gguf/gemma-3-12b-it-heretic-Q6_K.gguf9.7 GB
• gguf/gemma-3-12b-it-heretic-Q5_K_M.gguf8.4 GB
• gguf/gemma-3-12b-it-heretic-Q5_K_S.gguf8.2 GB
• gguf/gemma-3-12b-it-heretic-Q4_K_M.gguf7.3 GB
• gguf/gemma-3-12b-it-heretic-Q4_K_S.gguf6.9 GB
• gguf/gemma-3-12b-it-heretic-Q3_K_M.gguf6.0 GB
• model-00001-of-00005.safetensors5.0 GB
• model-00003-of-00005.safetensors4.9 GB
• model-00004-of-00005.safetensors4.9 GB
• model-00002-of-00005.safetensors4.9 GB
• model-00005-of-00005.safetensors4.6 GB
• tokenizer.json33.4 MB
• tokenizer.model4.7 MB
• tokenizer_config.json1.2 MB
• model.safetensors.index.json108.6 KB
• README.md5.9 KB
• config.json2.9 KB
• .gitattributes2.2 KB
• chat_template.jinja1.5 KB
• special_tokens_map.json662 B
• generation_config.json174 B
• added_tokens.json35 B

הרישיון

המודל כפוף לרישיון של Gemma מטעם גוגל. הרישיון מאפשר שימוש מסחרי ומחקר, אבל מחייב עמידה במדיניות השימוש המקובל של גוגל, למרות שמנגנוני הסינון הטכניים הוסרו מהקוד עצמו.

• שימוש מסחרי
• שינוי הקוד
• כפוף לתנאי השימוש של Google

הרישיון המלא בעמוד המודל ↗