GPT
H

Huihui-gemma-4-31B-it-abliterated

קוד פתוח

huihui-aiapache-2.02026-04-09

  • transformers
  • safetensors
  • gemma4
  • image-text-to-text
  • abliterated

גרסה פתוחה ונטולת חסימות של מודל הדגל מבית גוגל, שנבנתה כדי לענות על כל שאלה בלי לסרב. היא מיועדת למי שרוצה חופש מוחלט מהטפות מוסר אוטומטיות.

  • 33Bפרמטרים
  • 262,144טוקנים בהקשר
  • 58.3 GBמשקל הקבצים
  • 8,078הורדות בחודש

מה זה

מדובר בעיבוד למודל gemma-4-31B-it של גוגל, שעבר תהליך הסרת סירובים בשיטה שנקראת abliteration. היוצרים מחקו את כיווני הווקטורים שגורמים למודל לסרב לבקשות, והם עשו את זה גם במצב החשיבה וגם במצב הרגיל שלו. הארכיטקטורה מוגדרת כמשפחת Gemma4 למשימות any-to-any, מה שאומר שהבסיס שלו רחב בהרבה מסתם צ'אט טקסט פשוט.

בגודל של כמעט 33 מיליארד פרמטרים ועם חלון הקשר עצום של 262,144 טוקנים, הוא נועד לעבד מסמכים ארוכים ומשימות מורכבות. ההבדל בינו לבין המודל המקורי של גוגל הוא היעדר מוחלט של מעצורים. איפה שהמודל המקורי ירצה לכם על בטיחות, הגרסה הזו פשוט תענה ותנסה למלא את ההוראה בלי ויכוחים.

מתאים ל

  • מחקר אבטחה ובדיקות חדירה

    הוא לא יחסום שאילתות על חולשות אבטחה וקוד זדוני, מה שמאפשר לבדוק תרחישי קיצון בלי מסנני בטיחות מעיקים.

  • ניתוח מסמכים חריגים באורך מלא

    חלון של 262,144 טוקנים מאפשר לבלוע תיקים שלמים, בלי שהמודל יסרב לנתח קטעים שנויים במחלוקת או רגישים.

  • סימולציות חופשיות וכתיבה יוצרת

    יצירת דמויות, דיאלוגים ותרחישים מורכבים שבהם מודלים מסחריים רגילים נוטים לחסום את המשתמש ולהטיף לו.

איפה זה נופל

היוצרים מודים בעצמם שמדובר במימוש בסיסי וניסיוני, מעין הוכחת היתכנות גולמית שבוצעה בלי כלים מורכבים כמו TransformerLens. בגלל שכל מנגנוני הסירוב והבטיחות נמחקו, המודל עלול לייצר תכנים רגישים, בעייתיים או לא הולמים בלי שום התרעה. הוא לא עבר בדיקות בטיחות מסודרות, ולכן הכרטיס מזהיר במפורש לא לחבר אותו למערכות פתוחות למשתמשי קצה או למוצרים מסחריים בלי פיקוח ובקרה אנושית רציפה.

שאלות
נפוצות

האם המודל יסרב לפקודות במצב חשיבה?

לא. היוצרים מציינים במפורש שתהליך הסרת הסירובים הוחל במלואו גם על מצב החשיבה וגם על המצב הרגיל, כך שהוא לא אמור לעצור או להטיף מוסר באף שלב.

מה הדרך הכי מהירה לבדוק אותו מקומית?

אפשר להתקין את הגרסה העדכנית של ollama ולהריץ את הפקודה ollama run huihui_ai/gemma-4-abliterated:31B, במקום להוריד ידנית 58 גיגה בייט של קבצי transformers.

האם מותר להשתמש בו במוצר מסחרי?

מבחינת רישיון apache-2.0 זה מותר לגמרי, אבל יוצרי המודל ממליצים להגביל אותו למחקר וניסויים בלבד ומזהירים מחיבור ישיר לקהל הרחב בגלל היעדר מנגנוני בטיחות.

איך מריצים

המשקל הגולמי של הקבצים מגיע ל־58.3 גיגה בייט, כך שלהריץ אותו בצורה מקורית ב־transformers דורש לפחות שני כרטיסי מסך חזקים עם 48 או 80 גיגה זיכרון גרפי בסך הכול. למי שאין שרת ייעודי במשרד או בבית, היוצרים העלו גרסה מוכנה לשימוש דרך ollama עם הפקודה huihui_ai/gemma-4-abliterated:31B שמקלה מאוד על ההתקנה.

אם אתם צריכים את המודל רק לבדיקות נקודתיות או שאין לכם חומרה כבדה שזמינה עכשיו, עדיף להרים שרת ענן לפי שעה או להשתמש ב־API מרוחק. הרצה מקומית של מודל בגודל 31B דורשת תחזוקה ומשאבים שלא שווים את הטרחה לניסוי קצר.

from transformers import pipeline

pipe = pipeline("any-to-any", model="huihui-ai/Huihui-gemma-4-31B-it-abliterated")
print(pipe("שלום"))

הרישיון

המודל משוחרר ברישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי, שינוי והפצה של הקוד והמשקלים בלי תשלום תמלוגים, בתנאי ששומרים על הודעות זכויות היוצרים ומצרפים עותק של הרישיון. עם זאת, היוצרים מדגישים שהאחריות המשפטית על התכנים שהמודל פולט חלה במלואה על מי שמריץ אותו.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗