GPT
הוספת כלי
H

Huihui-gemma-4-12B-coder-fable5-composer2.5-v1-abliterated

קוד פתוח

huihui-aiapache-2.02026-06-21

  • transformers
  • safetensors
  • gemma4_unified
  • image-text-to-text
  • abliterated

גרסה נטולת סירובים למודל קוד שמבוסס על גמא. מי שמחפש מודל מקומי שלא יטיף מוסר על בדיקות אבטחה או קוד רגיש ימצא כאן מענה ישיר.

  • 12Bפרמטרים
  • 262,144טוקנים בהקשר
  • 22.3 GBמשקל הקבצים
  • 356הורדות בחודש

מה זה

הבסיס כאן הוא מודל ייעודי לכתיבת קוד שעבר תהליך הסרת סירובים, מה שמכונה abliteration. המפתח לקח מודל קיים וניקה ממנו את שכבות הבטיחות הרגילות בלי להשתמש בספריות כבדות, במטרה לגרום לו לענות על כל בקשה בלי להתחמק.

המודל מגיע עם נפח של כמעט 12 מיליארד פרמטרים וחלון הקשר עצום של 262,144 טוקנים. זה אומר שאפשר לזרוק אליו קבצי קוד שלמים או מאגרים קטנים בבת אחת בלי לחתוך חתיכות, בהנחה שיש לכם את הזיכרון המתאים להחזיק את כל ההקשר הזה פתוח.

מתאים ל

  • בדיקות חדירות ואבטחת קוד

    הוא לא יסרב לכתוב סקריפטים של בדיקות עמידות או לנתח חולשות בקוד שמשתמשים בו.

  • ניתוח מאגרי קוד עמוקים

    חלון של 262 אלף טוקנים מאפשר להזין תיעוד טכני מלא ושלל קבצים במקביל.

  • סביבות מחקר מבודדות

    בדיקת התנהגות של מודלים שהוסרו מהם מנגנוני הבטיחות בסביבת מעבדה סגורה.

איפה זה נופל

המפתח מודה בעצמו שמדובר במימוש גולמי וניסיוני לחלוטין. בגלל שכל מנגנוני הבטיחות הוסרו, הוא עלול לפלוט תוכן פוגעני, בעייתי או שגוי מבחינה אבטחתית בלי שום אזהרה. בדף המודל מצוין במפורש לא להעלות אותו למערכות ייצור ציבוריות או למוצרים מסחריים בלי בדיקה אנושית צמודה על כל פלט שיוצא ממנו.

שאלות
נפוצות

אפשר לחבר אותו ישירות לשירות שפונה למשתמשים?

עדיף שלא. המפתח מתריע בפירוש שמדובר בניסוי ללא מנגנוני סינון, ולכן הוא יכול לייצר תוכן בעייתי או לא הולם. אם תשימו אותו מול לקוחות בלי סינון משלכם, האחריות כולה עליכם.

כמה זיכרון דרוש כדי לנצל את מלוא ההקשר?

הקבצים עצמם שוקלים מעל 22 ג'יגה בייט לפני שחישבנו את זיכרון הריצה. כדי להשתמש באמת בחלון של 262 אלף טוקנים תצטרכו חומרה חזקה בהרבה מכרטיס ביתי בודד, או מעבר לקוונטיזציה אגרסיבית.

איך מריצים

המשקל הגולמי של הקבצים מגיע ל־22.3 ג'יגה בייט בספריית transformers. כדי להריץ אותו בלי קוונטיזציה תצטרכו כרטיס מסך עם לפחות 24 ג'יגה בייט של זיכרון וידאו, וגם זה רק בשביל להעלות אותו בלי להעמיס על חלון ההקשר המלא.

אם אתם לא מחזיקים חומרה כזו מקומית או לא מתכוונים לכווץ את המודל לפורמטים קלים יותר, כנראה שאין טעם להתעקש על הרצה עצמית. חלון ההקשר הענקי הזה זולל זיכרון מהר מאוד ברגע שמתחילים להעמיס קוד ארוך.

from transformers import pipeline

pipe = pipeline("text-generation", model="huihui-ai/Huihui-gemma-4-12B-coder-fable5-composer2.5-v1-abliterated")
print(pipe("שלום"))

הקבצים

9 קבצים במאגר, 22.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי, שינוי של הקוד והפצה חופשית, בתנאי שמשאירים את הקרדיט ומסמכי הרישיון המקוריים, בלי אחריות משפטית של היוצרים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗