GPT
Q

Qwen3.8-27B-Uncensored-MLX

קוד פתוח

orcarouterapache-2.02026-08-17

  • mlx
  • safetensors
  • qwen3_5
  • abliterated
  • qwen3.8

גרסה מכווצת למחשבי מק של מודל תמונה וטקסט, שעברה הסרה מלאה של מנגנוני הסירוב הפנימיים. היא עונה על כל שאלה בלי לחסום, ומיועדת לבדיקות עמידות ומחקר.

  • 27Bפרמטרים
  • 262,144טוקנים בהקשר
  • 88.2 GBמשקל הקבצים
  • 148,416הורדות בחודש

מה זה

מדובר בהמרה של מודל מולטימודלי בגודל 27 מיליארד פרמטרים לפורמט MLX, שמותאם לעבודה ישירה על שבבי אפל סיליקון. המאפיין המרכזי כאן הוא תהליך אבלציה, שבו נטרלו את כיווני הסירוב מתוך שכבות המודל. התוצאה היא מודל שמנתח תמונות, קורא טקסט ומפעיל כלים, אך מתעלם מכללי בטיחות מקובלים ועונה על פניות שבדרך כלל נדחות.

בבדיקות מול גרסת המקור, רמות הדיוק של 4, 6 ו־8 ביט שמרו על דמיון מתמטי גבוה מאוד של 0.996 ומעלה, עם אפס סירובים במבחני חדירה. במקביל, רכיבי הראייה והשכבות הקריטיות נשמרו באיכות מלאה של BF16 ולא עברו כיווץ, מה שמשאיר את יכולת פענוח התמונות מדויקת גם בגרסאות המכווצות.

מתאים ל

  • מחקר אבטחה ובדיקות חדירה

    מאפשר לבדוק תרחישי תקיפה ובניית חומות מגן חיצוניות למערכות AI, בלי שהמודל יסרב לייצר את המידע הדרוש למחקר.

  • ניתוח תמונות רגישות

    מתאים לסריקת מסמכים ותמונות שמודלים מסחריים רגילים נוטים לחסום בטעות בגלל זיהוי שגוי של תוכן אסור.

  • בדיקת מנגנוני סירוב

    משמש חוקרים להשוואה ישירה מול מודל המקור כדי ללמוד איך הסרת שכבות סירוב משפיעה על יציבות הפלט.

איפה זה נופל

החיסרון הראשי והמכוון הוא היעדר מוחלט של גבולות בטיחות. הוא מספק הוראות לנוזקות, תוכנות זדוניות ופעולות מסוכנות בלי להסס, ונוטה לייצר מידע שגוי בביטחון עצמי גבוה. מעבר לכך, גרסת 2 ביט שבורה לגמרי ומייצרת פלט משובש בלולאות, כך שהיא לא מתאימה לשום שימוש אמיתי. אין כאן הגנה מפני תוכן פוגעני, מה שפוסל אותו מכל מוצר שמדבר עם לקוחות קצה ללא סינון חיצוני.

אותה משפחה

Qwen3.8-27B-Uncensored יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם אפשר להריץ אותו ישירות ב־LM Studio?

כן, המאגר מוגדר כך שגרסת ברירת המחדל היא 4 ביט שנטענת ישירות. יש לוודא שהזנתם טוקן גישה של האגינג פייס בהגדרות התוכנה, ולכבות את תכונת כיווץ הזיכרון של המטמון כי היא גורמת לקריסה בארכיטקטורה הזו.

האם כדאי להוריד את גרסת 2 ביט כדי לחסוך מקום במחשב?

ממש לא. כרטיס המודל מזהיר במפורש שברמת כיווץ כזו המודל מאבד את היכולת לחשב באופן תקין, נכנס ללולאות של טקסט חוזר ומייצר פלט חסר היגיון. מומלץ להתחיל מגרסת 4 ביט.

האם המודל מתאים לשילוב באפליקציה ציבורית?

לא בלי שכבת הגנה קשיחה משלכם לפני ואחרי המודל. כיוון שאין בו שום מנגנון סירוב פנימי, כל משתמש יוכל לחלץ ממנו הנחיות לפעולות לא חוקיות, תכנים פוגעניים או קוד זדוני.

איך מריצים

המודל רץ מקומית על מחשבי מק באמצעות ספריית mlx-vlm או דרך LM Studio, ומגיע בכמה רמות כיול. גרסת 4 ביט תופסת כ־15 גיגה־בייט ודורשת לפחות 24 גיגה זיכרון כדי לעבוד באופן סביר. למי שרוצה איכות מקסימלית בלי איבוד פרטים, גרסת 8 ביט שוקלת כ־27.5 גיגה ומחייבת מק עם 32 גיגה זיכרון ומעלה.

ההרצה המקומית דורשת זיכרון מאוחד רחב, במיוחד בהקשרים ארוכים, ולכן גרסת ה־2 ביט אמנם שוקלת רק כ־8.7 גיגה אך אינה שמישה. אם החומרה שלכם חלשה יותר או שאין לכם מק מתאים, המפרסם מעמיד גם נקודת קצה של API שחוסכת את הצורך במחשב חזק.

pip install -U huggingface_hub
hf download orcarouter/Qwen3.8-27B-Uncensored-MLX

הקבצים

80 קבצים במאגר, 88.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון אפאצ'י 2.0 שירש ממודל הבסיס. הרישיון הזה מתיר שימוש חופשי, שינוי קוד והפצה מסחרית ללא תשלום תמלוגים, בתנאי ששומרים על הודעת זכויות היוצרים ומצרפים עותק של תנאי הרישיון. יחד עם זאת, היוצרים מדגישים שההסרה של מנגנוני הסירוב מטילה את מלוא האחריות המשפטית על המשתמש, ואין להם שום אחריות לתוצאות השימוש בפועל.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗