Huihui-DeepSeek-V4-Flash-0731-abliterated-GGUF

קוד פתוח

huihui-aimit2026-08-02

gguf
abliterated
uncensored
GGUF
huihui

גרסה נטולת סינונים של DeepSeek-V4-Flash בפורמט GGUF. היא מיועדת למי שצריך מודל שלא יסרב לפקודות שנויות במחלוקת ומחזיק תשתית חזקה מאוד.

512 GBמשקל הקבצים
564,321הורדות בחודש
192לייקים

מה זה

מדובר בהסבה של DeepSeek-V4-Flash שנוצרה באמצעות תהליך abliteration, שיטה שמנטרלת את מנגנון הסירוב הפנימי של הרשת בלי להשתמש בספריית TransformerLens. היוצרים מגדירים את זה בעצמם כמימוש גולמי וכבדיקת היתכנות, כשרק חלק ממודולי המומחים עברו את השינוי הזה ולא כולם.

ההבדל בין הקבצים השונים נוגע ישירות לרמת הסירוב. בגרסת Q4 הם הפעילו התערבות חזקה יותר מאשר בגרסת Q2, מה שמוביל לשיעור סירובים נמוך יותר בפועל. המשקל הכולל של כלל הקבצים מגיע ל־512 גיגה בייט, כך שמדובר במפלצת שמכוונת למי שמחפש עקיפה יזומה של מגבלות הבטיחות הרגילות של המודל המקורי.

מתאים ל

מחקרי בטיחות בעבודה עם LLM
בדיקת ההתנהגות של מודלי שפה כאשר מנטרלים מנגנוני סירוב באופן יזום.
יצירת טקסט בסביבה סגורה
הפקת תכנים חופשית בלי חסימות של מילים רגישות בתשתית פנימית.
בדיקות חוסן לתשתיות ds4
הרצת קובצי ענק מרובי מומחים כדי לבדוק חלוקת זיכרון על פני מספר כרטיסים.

איפה זה נופל

היוצרים מזהירים במפורש שמדובר במודל ניסיוני וממליצים להגביל אותו למחקר ובדיקות בלבד, ולא להכניס אותו ישירות למוצר מסחרי שפונה לקהל הרחב. הסינון הופחת משמעותית, ולכן הוא עלול לפלוט תוכן פוגעני, רגיש או בעייתי מבחינה חוקית. בנוסף, מנגנון הסרת הסירובים הוא פתרון גולמי שלא נגע בכל מודולי המומחים, כך שתיתכן חוסר יציבות בתשובות.

שאלות
נפוצות

מה ההבדל בין גרסת Q4 לגרסת Q2 במודל הזה?

היוצרים הפעילו עוצמת abliteration חזקה יותר בגרסת Q4 בהשוואה ל־Q2. המשמעות היא שבגרסת Q4 שיעור הסירובים של המודל נמוך יותר.

באילו כלים אפשר להריץ את הקבצים בפועל?

הקבצים נתמכים על ידי הגרסאות העדכניות של llama.cpp ושל ds4. כרטיס המודל מספק פקודות ישירות להרצה על כרטיס מסך יחיד או במערך מרובה כרטיסים.

איך מריצים

אתם מריצים את הקבצים עם הגרסאות האחרונות של llama.cpp או באמצעות ds4. הפקודות הרשמיות מדגימות עבודה מול קובצי Q2 ו־Q2_K, עם חלונות הקשר שנמתחים בין 32,768 ל־262,144 טוקנים, כאשר ds4 מאפשר פיצול על פני כרטיס בודד או מספר כרטיסי מסך.

עם משקל כולל כזה של מאות גיגה בייטים, אתם צריכים שרת ייעודי כבד עם נפח זיכרון עצום ומערך מרובה כרטיסים. אם אין לכם חומרה כזאת זמינה, הרצה מקומית פשוט לא תעבוד ועדיף להסתמך על שירותי ענן.

ollama run hf.co/huihui-ai/Huihui-DeepSeek-V4-Flash-0731-abliterated-GGUF:Q8_0

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

Q4_K164.6 GB Q4156.0 GB Q2_K97.6 GB Q286.7 GB BF1611.3 GB BF1611.3 GB Q8_010.9 GB Q8_010.9 GB

הקבצים

12 קבצים במאגר, 512 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון המדווח הוא MIT. הוא מתיר שימוש מסחרי, שינוי קוד והפצה, בלי דרישה לפתוח את הפיתוחים שלכם, כל עוד שומרים על הודעת הרישיון המקורית. עם זאת, היוצרים מציינים שהם לא לוקחים שום אחריות על התוכן שהמודל מייצר, והאחריות החוקית והאתית היא עליכם בלבד.

שימוש מסחרי
שינוי הקוד
הפצה מחדש

הרישיון המלא בעמוד המודל ↗