GPT
הוספת כלי
G

Goetia-26B-A4B-v1.3-Absolute-Heretic-ARA

קוד פתוח

Naphulaapache-2.02026-06-18

  • transformers
  • safetensors
  • gemma4
  • image-text-to-text
  • merge

מיזוג של 15 מודלים על בסיס Gemma 4 שעבר הסרת סינון אגרסיבית בשיטת ARA. הוא מיועד למי שמחפש חופש מוחלט ביצירת טקסט וסימולציות בלי חסימות מערכת.

  • 26Bפרמטרים
  • 262,144טוקנים בהקשר
  • 48.1 GBמשקל הקבצים
  • 2,982הורדות בחודש

מה זה

מדובר בהכלאה מורכבת שנוצרה עם mergekit בשיטת MoE DELLA, ומחברת בסיס של גוגל יחד עם שורה ארוכה של כיוונונים שונים לטקסט וסגנון. המטרה כאן ברורה, לייצר מודל עם מנעד כתיבה רחב מאוד שלא מסרב לפניות של המשתמש. התהליך כלל הפשטה ישירה של מנגנוני הסירוב באמצעות חבילת heretic ומחקר אופטימיזציה של כמאה ניסיונות.

התוצאה בפועל חריגה ברמת ההיענות שלה. במדידה שנערכה מול מאה שאילתות בעייתיות, המודל המקורי סירב למאה מתוכן, ואילו הגרסה הזו סירבה רק לשלוש. סטיית ה־KL שנמדדה עומדת על 0.0309 בלבד, מה שאומר שההסרה של המגבלות כמעט לא פגעה ביציבות הטקסטואלית שלו ביחס למקור.

מתאים ל

  • משחקי תפקידים ללא הגבלות

    הסרת הסירובים הכמעט מלאה מאפשרת לנהל אינטראקציות פתוחות לחלוטין בלי עצירות יזומות מצד המערכת.

  • כתיבה יצירתית קיצונית

    המיזוג כולל כיוונוני סגנון מגוונים שמתאימים לסיפורים בעלי תכנים בוגרים או אפלים.

  • מחקרי אבטחה והנדסת הנחיות

    שיעור סירוב של שלושה אחוזים בלבד מספק כלי מעולה לבדיקת תרחישי קצה והתנהגות מודלים לא מסוננים.

איפה זה נופל

הכרטיס מזהיר במפורש שהמודל מסוגל לייצר תכנים אלימים ופורנוגרפיה גרפית בלי עכבות, ולכן הוא לא מתאים לסביבות מפוקחות או למוצרים שפונים לקהל רחב. המודל מוגדר באנגלית בלבד, ואין שום תיעוד או בדיקה לגבי היכולות שלו בעברית. בנוסף, על אף שהוא מסווג ברמת המשימה ככזה שמקבל גם תמונה, הקוד בדף עקף רכיבי ראייה מסוימים בזמן ההפשטה כדי למנוע קריסות, כך שחובה לבדוק היטב את תפקוד המולטימדיה לפני שבונים עליו.

שאלות
נפוצות

האם המודל יפעל על כרטיס מסך ביתי סטנדרטי?

במשקלו המקורי של 48.1 גיגה בייט בפורמט המלא הוא לא ייכנס לכרטיסים נפוצים. תצטרכו כרטיס מקצועי עם זיכרון גבוה מאוד, בדומה לחומרת 96 גיגה בייט ששימשה לפיתוח, או להמתין לגרסה מכווצת.

האם אפשר לשלב אותו באפליקציה ציבורית?

הרישיון אמנם מאפשר זאת, אך הוא אינו מפעיל מנגנוני הגנה ומייצר טקסטים אלימים ובוטים ללא סינון. שילוב כזה מחייב שכבת בקרת פלט חיצונית כדי לא לפגוע במשתמשי קצה.

איך מריצים

המשקל הכולל של הקבצים מגיע ל־48.1 גיגה בייט בפורמט bfloat16, כך שהרצה מקומית בגרסה המלאה דורשת חומרה כבדה. המפתח עצמו ביצע את החישובים וההרצות על כרטיס RTX 6000 עם 96 גיגה בייט זיכרון גרפי. אם אין ברשותכם חומרה ברמה הזו, תצטרכו להמתין להמרות מכווצות או להרים מכונה ייעודית בענן, תהליך שלפי נתוני הפרויקט עלה כ־20 דולר בשירות RunPod.

הריצה נעשית דרך ספריית transformers הרגילה, אך יש להקפיד על תבנית השיחה של Gemma 4 כדי לקבל פלטים תקינים. אין פה כרגע גרסאות רשמיות קטנות יותר בדף, והקבצים מחולקים לעשרים וארבעה חלקים שיש להוריד במלואם.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="Naphula/Goetia-26B-A4B-v1.3-Absolute-Heretic-ARA")
print(pipe("שלום"))

הקבצים

24 קבצים במאגר, 48.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון המדווח הוא apache-2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי של המשקולות והפצה חופשית, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗