GPT
הוספת כלי
Q

Qwen3-14B-abliterated

קוד פתוח

mlabonneapache-2.02025-04-29

  • transformers
  • safetensors
  • qwen3
  • text-generation
  • abliteration

גרסה ללא מעצורי סירוב של מודל 15B, שפותחה במטרה לעקוף חסימות תוכן מובנות. הוא מיועד למי שרוצה תשובות ישירות בלי הטפות מוסר או סירובים אוטומטיים.

  • 15Bפרמטרים
  • 40,960טוקנים בהקשר
  • 55.0 GBמשקל הקבצים
  • 1,457הורדות בחודש

מה זה

מדובר בעיבוד למודל בסיס שנועד לנטרל את מנגנוני הסירוב הרגילים. היוצר השתמש בשיטה שמזהה את כיוון הסירוב בייצוגים הפנימיים של הרשת ומחסירה אותו מהשכבות, כך שהמודל יענה על שאלות שגרסאות רגילות חוסמות מיד. היעד בפיתוח היה להגיע לקצב קבלת פניות של מעל 90 אחוזים במבחני בדיקה, בלי לפגוע בעקביות הטקסט.

בגודל של 15B הוא מציע פשרה סבירה בין יכולת הבנה למשאבי ריצה. המודל מתמודד גם עם מצבי חשיבה וגם עם שאלות ישירות, אם כי היוצר ציין שמצבי החשיבה סיבכו את תהליך הסרת הסירובים ודרשו התאמה ייחודית של המשקולות בכל שכבה.

מתאים ל

  • מחקר על מנגנוני סירוב

    מאפשר לבדוק איך התערבות בשכבות הפנימיות משפיעה על בטיחות ויציבות התשובות.

  • סיווג תוכן רגיש

    מעבד טקסטים קשים או שיחות בוטות בלי לעצור ולהחזיר הודעות סירוב גנריות.

  • כתיבה יצירתית ללא צנזורה

    מייצר דיאלוגים חופשיים או תרחישים עלילתיים שנופלים בדרך כלל בפילטרים מסחריים.

איפה זה נופל

היוצר מגדיר את הפרויקט כניסיוני לחלוטין. התערבות במשקלים פנימיים כדי למחוק סירובים עלולה לפגוע בהיגיון הכללי של המודל, לגרום להזיות או להוביל לתשובות שבורות. מעבר לזה, ביטול החסימות אומר שאין שום סינון על תוכן פוגעני או מסוכן, ולכן אי אפשר להוציא אותו ללקוחות קצה בלי שכבת הגנה חיצונית משלכם.

שאלות
נפוצות

האם אפשר להריץ אותו ישר על מחשב נייד?

במשקל המקורי של 55GB אי אפשר להריץ אותו על חומרה רגילה. תצטרכו להמיר אותו לגרסה מכווצת או לשכור שרת ייעודי בענן עם כרטיס מסך חזק.

האם הוא מתאים למוצר שפונה לקהל הרחב?

לא בלי מעטפת סינון עצמאית. הסרת החסמים גורמת לו לענות על כל דבר, כולל תוכן פוגעני שעלול לחשוף אתכם לבעיות אמינות ובטיחות מול משתמשים.

איך מריצים

המשקלים נשמרים בפורמט float32 ותופסים 55GB על הדיסק, כך שאי אפשר להריץ אותו ככה על כרטיס ביתי פשוט. כדי לעבוד איתו צריך שרת עם כרטיס מקצועי בעל זיכרון גדול, או להמיר אותו בעצמכם לפורמט מכווץ כמו 4 ביט כדי לדחוס אותו לכרטיס עם 16GB או 24GB של זיכרון.

ההרצה מתבצעת ישירות דרך ספריית transformers. מומלץ להשתמש בפרמטרים שהיוצר הגדיר, טמפרטורה 0.6 עם top p של 0.95 ו־top k של 20, כדי לשמור על יציבות התשובות ולא לקבל פליטות חסרות משמעות.

from transformers import pipeline

pipe = pipeline("text-generation", model="mlabonne/Qwen3-14B-abliterated")
print(pipe("שלום"))

הקבצים

24 קבצים במאגר, 55.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא apache-2.0, שמאפשר שימוש מסחרי, שינוי קוד והפצה חופשית. מותר להטמיע אותו במוצרים פנימיים או מסחריים בלי לשלם תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית ומצרפים עותק של הרישיון.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗