GPT
הוספת כלי
Q

Qwen3.6-27B-OBLITERATED

קוד פתוח

OBLITERATUSapache-2.02026-05-19

  • transformers
  • safetensors
  • gguf
  • qwen3_5_text
  • text-generation

גרסה מותאמת של מודל 27B שנועדה לצמצם סירובים מובנים ברמת המשקולות, תוך שמירה על ביצועי המקור. הבחירה בו מתאימה למי שרוצה מודל מקומי גדול שעונה ישירות בלי לחנך או להתחמק.

  • 27Bפרמטרים
  • 262,144טוקנים בהקשר
  • 131 GBמשקל הקבצים
  • 7,425הורדות בחודש

מה זה

הבסיס כאן הוא מודל שפה של כמעט 27 מיליארד פרמטרים שעבר ניתוח משקולות ישיר להסרת מסלולי הסירוב המקוריים שלו. במקום להלביש עליו פרומפט מערכת אגרסיבי, היוצרים זיהו כיווני סירוב בשכבות המאוחרות, חתכו אותם, והחזירו 43 טנסורים עם סחיפה גבוהה למצב המקורי שלהם כדי לא לפגוע ביכולות הליבה.

בבדיקות פנימיות על מאגר של 842 פרומפטים מורכבים בדרגות חומרה שונות, המודל הציג שיעור אי־סירוב של 95.84 אחוזים לצד מעבר איכות של 93.94 אחוזים. במבחני MMLU Pro המודל שמר כמעט לחלוטין על תוצאות מודל המקור, כולל התאמה מדויקת בחלק מהחתכים, מה שמראה שההתערבות במשקולות לא ריסקה את ההיגיון והידע הכללי.

מתאים ל

  • מחקר אבטחה ורד־טימינג

    צמצום הסירובים המובנה מאפשר לבחון גבולות בטיחות ותגובות לתרחישי קצה ללא חסימות תוכנה מלאכותיות.

  • כתיבה טכנית ללא הטפה

    מתאים להפקת קוד וטקסטים מורכבים במכונה מקומית חזקה בלי הערות מוסר או אזהרות מיותרות בתשובה.

  • עיבוד טקסטים ארוכים מקומית

    חלון הקשר של 262,144 טוקנים מאפשר ניתוח מסמכים מסיביים ישירות על הברזלים שלכם.

איפה זה נופל

זה לא מודל נטול צנזורה לחלוטין. בבקשות קצרות ומאוד ישירות סביב נושאים רגישים, המודל עדיין נופל לדפוסי סירוב מוכרים של מודל הבסיס, במיוחד סביב טקסטים המוגנים בזכויות יוצרים שבהם נרשמו יותר סירובים.

בנוסף, הכרטיס מדגיש שאין כאן תמיכה בתמונות ומדובר במודל טקסט בלבד. שימוש בכלים וקריאות לפונקציות לא נבדקו ולא הוסמכו, ולכן לא מומלץ לבנות עליו לסוכנים מורכבים שמסתמכים על שליפת כלים מדויקת בלי בדיקה נפרדת.

שאלות
נפוצות

האם המודל יסרב לפקודות שלי?

לפעמים כן. למרות הטיפול במשקולות, פרומפטים קצרים וישירים מאוד בנושאים נפיצים או מוגנים בזכויות יוצרים עדיין יכולים לעורר את מנגנון הסירוב המקורי.

איך כדאי להגדיר אותו כדי לקבל את ההתנהגות הרצויה?

מומלץ לעבוד עם טמפרטורה 0.35, top_p של 1.0 וקנס חזרתיות של 1.05, לצד פרומפט המערכת שהיוצרים הגדירו. אם מריצים בסביבה שתומכת במצב חשיבה, חובה לכבות אותו כדי לא לפגוע בסגנון התשובה.

איך מריצים

כדי להריץ את גרסת ה־safetensors המלאה בשרת דרך vLLM או Transformers צריך חומרה עם 64 עד 80 גיגה־בייט זיכרון גרפי או מאוחד. המודל שוקל כ־50 גיגה־בייט מקומית, כך שכרטיס בודד מהשוק הצרכני פשוט לא יספיק פה.

במחשבים אישיים מומלץ לגשת לקובצי ה־GGUF דרך llama.cpp או Ollama, כשהגרסה המומלצת להתחלה היא Q4_K_M הדורשת בין 24 ל־32 גיגה־בייט זיכרון. אם המחשב שלכם חלש יותר, אין טעם לנסות להריץ אותו מקומית ועדיף לפנות ל־API חיצוני שמארח מודלי 27B.

ollama run hf.co/OBLITERATUS/Qwen3.6-27B-OBLITERATED:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

safetensors53.8 GB Q8_028.6 GB Q6_K22.1 GB Q5_K_M19.2 GB Q4_K_M16.5 GB

הקבצים

44 קבצים במאגר, 131 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0, שמאפשר שימוש חופשי כולל שימוש מסחרי, שינוי קוד והפצה מחדש. התנאי העיקרי הוא שימור הודעות זכויות היוצרים והרישיון המקורי, בלי הטלת אחריות משפטית על היוצרים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗