Gemma-4-12B-OBLITERATED

מה זה

מדובר במודל 12B שמבוסס על Gemma 4 של גוגל, שעבר הסרה של כיווני הסירוב הגיאומטריים בשכבות הפנימיות שלו. המטרה היתה למחוק את הסירובים בלי לפגוע ביכולות השכליות. התוצאה במבחן MMLU-Pro עומדת על 46 מתוך 70, בדיוק כמו במודל המקורי, לצד אפס סירובים מתוך 842 בדיקות.

במקום אימון מחדש, היוצרים שילבו בין חיתוך וקטורי בשכבות 12 עד 21 לבין שחזור משקלים מדורג בשכבות 22 עד 46. השכבות שקרובות לפלט שוחזרו פחות כדי לא להחזיר את מנגנוני ההגנה. בפועל קיבלתם מודל שמדבר ישיר ולא מטיף מוסר, עם חלון הקשר של 131,072 טוקנים.

מתאים ל

• מחקר אבטחה ו־Red Teaming

  בדיקת תרחישי תקיפה ועמידות של מערכות ללא חסימות פנימיות של המודל.

• מחקר יכולות יישור מודלים

  ניתוח האופן שבו מנגנוני סירוב מוטמעים גאומטרית בשכבות הטרנספורמר.

• הרצה מקומית ללא צנזורה

  קבלת תשובות ישירות ללא תבניות מוסר, אזהרות מיותרות או התחמקויות.

איפה זה נופל

המודל מוגדר ככלי מחקר לבדיקות עמידות ואבטחה, ולא כמוצר מדף. אין בו שום מנגנוני סינון, מה שאומר שהוא ייצר כל תוכן שתבקשו בלי להתריע ובלי לקחת אחריות. מעבר לזה, המדדים שלו נבדקו מול מדגם של 70 שאלות ב־MMLU-Pro, שזה מדגם קטן יחסית. אתם חייבים לבדוק אותו עצמאית על המשימות הספציפיות שלכם לפני שאתם סומכים על היציבות שלו.

איך מריצים

המשקל הגולמי של קובצי המודל תופס 63.2 גיגה בייט, אבל יש גרסאות GGUF מוכנות להרצה מקומית בתוכנות כמו llama.cpp או LM Studio. גרסת Q4_K_M שוקלת 6.9 גיגה בייט ונכנסת כולה בכרטיס מסך של 8GB VRAM. אם יש לכם חומרה חזקה יותר, גרסת Q8_0 לוקחת 12.7 גיגה בייט ונותנת דיוק כמעט מלא, וגרסת BF16 דורשת 22 גיגה בייט.

אם אין לכם כרטיס מתאים או שאתם לא צריכים שליטה מלאה בתוכן, עדיף להשתמש ב־API מסחרי רגיל של מודל מקביל. הרצה מקומית של מודל כזה מוצדקת בעיקר כשאתם חייבים אפס התערבות בתשובות או כשאתם עובדים בסביבה סגורה לחלוטין.

ollama run hf.co/OBLITERATUS/Gemma-4-12B-OBLITERATED:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

12 קבצים במאגר, 63.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors23.9 GB
• Gemma-4-12B-OBLITERATED-BF16.gguf23.8 GB
• Gemma-4-12B-OBLITERATED-v2-Q8_0.gguf12.7 GB
• Gemma-4-12B-OBLITERATED-Q4_K_M.gguf7.4 GB
• tokenizer.json32.2 MB
• chat_template.jinja17.5 KB
• README.md11.7 KB
• config.json4.3 KB
• tokenizer_config.json2.9 KB
• .gitattributes1.6 KB
• MANIFEST.txt519 B
• generation_config.json260 B

הרישיון

המודל יורש את רישיון gemma של גוגל. הרישיון מאפשר שימוש חופשי ופיתוח תחת תנאי השימוש של גוגל, אבל השינויים שבוצעו בו לא פוטרים אתכם מאחריות משפטית על הפלטים. מי שמשלב אותו במוצר נושא באחריות המלאה לכל תוכן שנוצר.

• שימוש מסחרי
• שינוי הקוד
• כפוף לתנאי השימוש של Google

הרישיון המלא בעמוד המודל ↗