GPT
G

gemma-4-31B-it-The-DECKARD-HERETIC-UNCENSORED-Thinking

קוד פתוח

DavidAUapache-2.02026-04-06

  • safetensors
  • gemma4
  • heretic
  • abliterated
  • uncensored

גרסה לא מצונזרת של גוגל גמה 4 עם 31 מיליארד פרמטרים ומצב חשיבה מובנה. מיועדת למי שצריך מודל חזק שמתעלם ממגבלות תוכן ומסוגל לעבד גם טקסט וגם תמונות.

  • 31Bפרמטרים
  • 262,144טוקנים בהקשר
  • 58.3 GBמשקל הקבצים
  • 1,533הורדות בחודש

מה זה

היוצר לקח את המודל של גוגל, הסיר ממנו את מנגנוני הסינון, ואימן אותו באמצעות Unsloth על אוסף דאטה פרטי בשם DECKARD כדי לשפר עומק ויכולות כתיבה. המודל שומר על הארכיטקטורה המקורית, תומך בעיבוד משולב של טקסט ותמונה, ומגיע עם תבניות נפרדות למצב שיחה רגיל ומצב חשיבה שבו המודל מפרט את שלבי הניתוח בתגית ייעודית.

בבדיקות הפנימיות של המפתח, המודל עוקף את גרסת הבסיס של גוגל בשישה מתוך שבעה מבחנים, כולל מדדי הבנה והיסק כמו ARC ו־Hellaswag. בפועל זה אומר פחות תשובות מתחמקות ויותר דיוק במענה על שאלות ידע מורכבות.

מתאים ל

  • כתיבה יצירתית ללא סינון

    מייצר עלילות ותסריטים מורכבים סביב נושאים בוגרים שהיו נחסמים מיד במודלים מסחריים רגילים.

  • ניתוח מסמכים ותמונות

    משלב יכולת עיבוד תמונה של גמה 4 לחילוץ מידע מדוחות וגרפים יחד עם שרשרת חשיבה מפורטת.

  • אימון סוכנים אוטונומיים

    תומך בהפעלת פונקציות ואינו נתקע על סירובים כשהוא נדרש לסרוק טקסטים חופשיים מהרשת.

איפה זה נופל

הבדיקות הפנימיות חושפות תופעה מוזרה שבה מצב החשיבה משיג תוצאות נמוכות יותר ממצב הפקודה הרגיל במבחנים כמו BoolQ ו־ARC. בנוסף, חלון ההקשר מוגדר בריפו כ־128 אלף טוקנים למרות שהמפרט הטכני תומך ביותר, והמפתח השתמש בדאטה פרטי שלא ניתן לבדוק. הסרת הסינון אומרת גם שאין שום מעקה בטיחות, והמודל עלול לפלוט תוכן רעיל או בעייתי בשימוש חופשי.

שאלות
נפוצות

איך מכבים את מצב החשיבה אם אני רוצה תשובה מהירה?

המפתח קידד את מצב החשיבה כברירת מחדל בקובץ ה־Jinja. כדי לעבור למצב רגיל, יש לשנות את שם הקובץ chat_template-instruct.jinja ל־chat_template.jinja בתיקיית המודל.

האם המודל שומר על היכולות המולטימודליות של גוגל?

כן, הארכיטקטורה תומכת בקלט משולב של תמונות וטקסט. המודל מסוגל לבצע פעולות כמו פענוח מסמכים והבנת ממשקי משתמש בדיוק כמו מודל הבסיס שעליו הוא אומן.

איך מריצים

כדי להריץ את המודל במשקל מלא של 58.3 גיגה-בייט, צריך שרת עם לפחות שני כרטיסי A100 או כרטיסים מקבילים עם 80 גיגה זיכרון גרפי מרווח. מי שמריץ מקומית יצטרך גרסאות מכווצות (קוונטיזציה), שמאפשרות לרדת לחומרה של כרטיס בודד עם 24 או 32 גיגה זיכרון, אך במחיר מסוים של דיוק.

אם אתם לא חייבים מודל נטול צנזורה לחלוטין שרץ בתוך הרשת הפרטית שלכם, פנייה ל־API מסחרי של מודל גדול תהיה זולה ומהירה יותר בהרבה מתחזוקת תשתית כבדה כזו.

pip install -U huggingface_hub
hf download DavidAU/gemma-4-31B-it-The-DECKARD-HERETIC-UNCENSORED-Thinking

הרישיון

הרישיון הוא Apache 2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי קוד והפצה חופשית של המודל בתוך מוצרים, ללא תשלום תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗