Deepseek-R1-Distill-NSFW-RPv1-GGUF

קוד פתוח

mradermacherרישיון לא דווח2025-01-26

transformers
gguf
mergekit
merge
en

גרסת כימות מקומית למודל שמשלב חשיבה של דיפסיק עם כתיבת משחקי תפקידים ללא צנזורה. מתאים למי שרוצה להריץ שיחות חופשיות על החומרה שלו בלי שרתים חיצוניים.

66.9 GBמשקל הקבצים
2,268הורדות בחודש
59לייקים

מה זה

מדובר בהמרה של מודל מבית קהילת mergekit לפורמט GGUF, שמיועד לעבודה מקומית ומהירה. הבסיס נשען על מודלי הזיקוק של Deepseek R1, אך הכיוון פה הוא משחקי תפקידים ותכנים שאינם מצונזרים, תחום שבו רוב המודלים המסחריים חוסמים בקשות מיד.

היתרון של קובצי GGUF מהסוג הזה הוא היכולת לבחור את רמת הדחיסה המדויקת שמתאימה לחומרה שברשותכם, החל מגרסאות מצומצמות מאוד ועד לגרסאות כבדות ששומרות על דיוק מקסימלי. היוצר מספק כאן כימותים סטטיים, ומפנה בנפרד לכימותים מבוססי מטריצת חשיבות למי שצריך דיוק גבוה יותר בנפחים נמוכים.

מתאים ל

משחקי תפקידים מקומיים
מאפשר שיחות ארוכות ללא סינון תכנים, בלי לחשוש ממעקב של ספקי שירות חיצוניים.
כתיבה יצירתית חופשית
מתאים לטיוטות עלילתיות שלא מוגבלות על ידי מסנני בטיחות סטנדרטיים.
בדיקות הרצה מקומיות
בחינת יכולות של מודלי R1 מכומתים על חומרה ביתית צנועה יחסית.

איפה זה נופל

הכרטיס מפרט שפות נתמכות באנגלית בלבד, כך שלא כדאי לבנות עליו לעברית שוטפת בלי ניסוי מוקדם. מעבר לכך, כימותים נמוכים כמו Q3_K_M מוגדרים במפורש על ידי היוצר כבעלי איכות נמוכה, וגרסת f16 מוגדרת כבזבוז משאבים מיותר. אין בדיקות ביצועים רשמיות שמראות עד כמה הוא שומר על יכולות ההיגיון המקוריות תוך כדי משחק התפקידים.

שאלות
נפוצות

איזו גרסה כדאי להוריד למחשב אישי סטנדרטי?

עדיף לבחור בגרסת Q4_K_M או Q4_K_S. הן שוקלות סביב 5 גיגה בייט, רצות מהר על רוב המחשבים ומספקות איכות טובה בלי לתפוס יותר מדי זיכרון.

האם המודל יבין עברית?

הוא מוגדר רשמית לאנגלית בלבד. הוא עשוי לפלוט מילים בעברית, אבל התחביר וההבנה יהיו חלשים מאוד בהשוואה למודלים שתומכים בשפה באופן רשמי.

איך מריצים

המשקלים נעים בין 3.3 גיגה בייט בגרסת Q2 ועד 16.2 גיגה בייט בגרסת f16 המלאה. מומלץ לכוון לאמצע, קבצים כמו Q4_K_M או Q5_K_M ששוקלים סביב 5 עד 6 גיגה בייט ומספקים איזון טוב בין מהירות לאיכות. תוכלו להריץ אותם על מעבד גרפי ביתי פשוט עם 6 עד 8 גיגה זיכרון וידאו, או ישירות על הזיכרון של המחשב בעזרת כלי הרצה שתומכים בפורמט.

אין פה API מסודר בענן כי המטרה היא הרצה מקומית ופרטית, בעיקר בגלל אופי התוכן הלא מצונזר.

ollama run hf.co/mradermacher/Deepseek-R1-Distill-NSFW-RPv1-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

F1616.1 GB Q8_08.5 GB Q6_K6.6 GB Q5_K_M5.7 GB Q5_K_S5.6 GB Q4_K_M4.9 GB Q4_K_S4.7 GB IQ4_XS4.5 GB Q3_K_L4.3 GB Q3_K_M4.0 GB Q3_K_S3.7 GB Q2_K3.2 GB

הקבצים

14 קבצים במאגר, 66.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון לא דווח בדף המודל. במצב כזה אין אישור משפטי מוגדר לשימוש מסחרי, ואי אפשר לדעת אילו הגבלות חלות עליו. אם אתם מתכננים להטמיע אותו במוצר שמייצר הכנסות, מדובר בסיכון משפטי, ועדיף להשתמש בו לניסויים אישיים בלבד.

הרישיון המלא בעמוד המודל ↗