GPT
הוספת כלי
D

DeepSeek-R1-Distill-Qwen-14B-abliterated-v2

קוד פתוח

huihui-aiרישיון לא דווח2025-01-23

  • transformers
  • safetensors
  • qwen2
  • text-generation
  • abliterated

גרסה נטולת סינונים למודל החשיבה של דיפסיק בגודל 14B. מיועדת למי שרוצה תשובות ישירות בלי לקבל סירובים או הטפות מוסר מהמערכת.

  • 15Bפרמטרים
  • 131,072טוקנים בהקשר
  • 27.5 GBמשקל הקבצים
  • 742הורדות בחודש

מה זה

הבסיס כאן הוא מודל הזיקוק של DeepSeek שנבנה על גבי Qwen, אבל היוצר העביר אותו תהליך שנקרא abliteration. המטרה של הטיפול הזה היא לנטרל את מנגנוני הסירוב המובנים שהוכנסו באימון הבטיחות המקורי, כדי לגרום לו לענות על כל שאלה בלי לחסום אותה מראש.

היוצר מגדיר את העבודה הזו כהוכחת היתכנות גולמית שנעשתה ישירות מעל transformers. זהו שדרוג לגרסה הראשונה שהוציא, שנועד לפתור באגים מהסבב הקודם, ומעבר לחופש מסירובים מקבלים כאן את אותה יכולת חשיבה עם תגיות ההיגיון שמאפיינות את סדרת R1.

מתאים ל

  • מחקר על מנגנוני בטיחות

    מאפשר לבחון איך מודל חשיבה מתנהג כשתבניות הסירוב נמחקות ישירות מהמשקלים.

  • מענה על נושאים רגישים

    מתאים לניתוח טקסטים או שאלות שהמודל המקורי דוחה באופן אוטומטי בגלל הגדרות סינון.

  • בדיקות אוטומציה ללא חסימות

    עוזר להריץ שאילתות מורכבות בסקריפטים מקומיים בלי לחשוש מתשובות סירוב גנריות.

איפה זה נופל

היוצר בעצמו מעיד שמדובר במימוש גולמי לחלוטין לצורך הוכחת היתכנות. המודל עלול לפעמים להפסיק להפיק את תגית החשיבה הרגילה שלו או להמשיך לסרב למרות השינוי, ובמקרה כזה צריך להזין לו דוגמה מקדימה כדי להחזיר אותו למסלול. מעבר לכך, הסרת מנגנוני הבטיחות פירושה שאין שום סינון על התוכן שהוא מייצר, מה שהופך שילוב שלו במוצר מסחרי לסיכון של ממש.

שאלות
נפוצות

מה לעשות אם הוא מסרב לענות או מדלג על שלב החשיבה?

היוצר מסביר שצריך לתת לו דוגמה מקדימה בפרומפט כדי להחזיר אותו לתלם. למשל, אפשר להזין לו קודם שאלה פשוטה כמו ספירת אותיות במילה מסוימת כדי להפעיל מחדש את תהליך החשיבה.

האם אפשר להשתמש בו במוצר שמיועד ללקוחות?

לא מומלץ בכלל. מעבר לעובדה שאין לו רישיון מוגדר, מודל שהוסרו ממנו הסירובים בצורה גולמית עלול לפלוט תוכן לא יציב, פוגעני או שגוי בלי שום רשת ביטחון.

איך מריצים

כדי להריץ את המשקלים המלאים בפורמט bfloat16 תצטרכו לפחות 30 ג'יגה בייט של זיכרון כרטיס מסך, מה שמחייב כרטיס מקצועי או שני כרטיסים ביתיים חזקים. הקבצים שוקלים 27.5 ג'יגה בייט ומחולקים לשישה עשר חלקים, כך שההורדה והטעינה שלהם בסביבת פיתוח מקומית אינן קלות.

מי שרוצה לעקוף את הסרבול של טעינת המשקלים הגולמיים יכול להריץ אותו דרך ollama עם הפקודה הייעודית שהמפרסם ציין. אם המטרה היא סתם לבדוק איך מודל חשיבה מתנהג בלי חסימות, עדיף להשתמש בגרסה מכווצת או לחפש שירות שמארח אותו במקום לקנות חומרה יקרה.

from transformers import pipeline

pipe = pipeline("text-generation", model="huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2")
print(pipe("שלום"))

הקבצים

16 קבצים במאגר, 27.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

היוצר לא דיווח על רישיון בעמוד של המודל. מבחינה משפטית, כשאין רישיון מוגדר, אין לכם אישור רשמי להשתמש במשקלים, להפיץ אותם או לשלב אותם במוצר מסחרי. כל שימוש מחוץ למחקר ובדיקות פרטיות נמצא באזור אפור ומסוכן.

הרישיון המלא בעמוד המודל ↗