Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF

קוד פתוח

huihui-aiapache-2.02026-06-25

transformers
gguf
qwen3.5
reasoning
uncensored

גרסה לא מצונזרת שעברה הסרת מגבלות בטיחות ומגיעה בפורמט מכווץ לקבצי GGUF. היא מיועדת למי שמחפש תשובות ישירות ומדויקות להוראות בלי סירובים מובנים ובלי פטפוטים מיותרים מסביב.

45.7 GBמשקל הקבצים
43,727הורדות בחודש
182לייקים

מה זה

מדובר בהתאמה לא מצונזרת למודל בסיס בגודל תשעה מיליארד פרמטרים, שנוצרה בשיטת abliteration כדי לנטרל את מנגנוני הסירוב הרגילים. הייחוד הבולט שלו הוא ההיצמדות הקפדנית להוראות הבקשה הראשונה כשמריצים אותו במצב רגיל ללא שלב חשיבה מקדים. הוא מחזיר בדיוק את הפורמט שביקשתם, כמו תרגום נקי או מבנה נתונים ספציפי, בלי לפתוח בהקדמות ובלי לסיים בהערות מנומסות.

המודל אומן בעיקר באנגלית, ומכיוון שמדובר בקבצי משקלים בפורמט GGUF שמחולקים לכמה חלקים ומגיעים לנפח כולל של מעל 45 גיגה בייט, הוא פונה מראש למי שמריץ מודלים בסביבה מקומית או בשרת פרטי. בשוק שבו רוב המודלים בגודל הזה עמוסים בחסימות בטיחות שלעיתים שוברות משימות אוטומטיות, כאן מקבלים כלי שמתמקד בביצוע הפקודה בלבד.

מתאים ל

עיבוד נתונים ללא תוספות
הוא נצמד לבקשה ומחזיר פלט מובנה כמו תרגום או קוד בלי שורות נימוס שיכולות לשבור סקריפטים.
מחקר על מודלים לא מצונזרים
מאפשר לבחון יכולות של מודל שהוסרו ממנו מגבלות הבטיחות בסביבת בדיקה מקומית.
סביבות הרצה מנותקות רשת
הפצה מקומית מלאה בפורמט GGUF שמתאימה לשרתים פנימיים ללא חיבור חיצוני.

איפה זה נופל

החיסרון המרכזי כאן הוא היעדר מוחלט של מנגנוני סינון ובטיחות. המודל עלול לייצר תוכן פוגעני, שנוי במחלוקת או לא הולם, והמפתח מזהיר במפורש מפני הטמעה שלו באפליקציות שפונות ישירות למשתמשי קצה או לציבור הרחב ללא שכבת ניטור צמודה ובדיקה ידנית. בנוסף, המודל מוגדר רשמית לשפה האנגלית בלבד, כך שאין שום הבטחה לאיכות סבירה בעברית, וללא בדיקה מקדימה קפדנית לא כדאי לבנות עליו לפרויקטים שאינם מחקר ובדיקות פנימיות.

שאלות
נפוצות

האם המודל יסרב לענות על שאלות רגישות?

לא. המודל עבר תהליך של הסרת מגבלות ולכן מנגנוני הסירוב המובנים נוטרלו כמעט לגמרי. הוא יענה ישירות על הבקשה, מה שאומר שאתם חייבים לבדוק את הפלט בעצמכם כדי לוודא שהוא מתאים לצרכים שלכם.

האם כדאי להשתמש בו ישירות במוצר שפונה ללקוחות?

היוצר של המודל ממליץ במפורש להימנע מזה. ללא שכבת סינון נוספת שבניתם בעצמכם, המודל עלול לפלוט תוכן בעייתי שלא מתאים לציבור הרחב או למשתמשים צעירים.

איך מריצים

את המודל מריצים דרך הגרסה העדכנית ביותר של llama.cpp, כפי שמציין המפתח בהוראות ההידור שלו. כדי להריץ את גרסת ה־Q4_K המומלצת עם חלון הקשר מלא של 262,144 טוקנים, תצטרכו כרטיס מסך חזק עם מספיק זיכרון VRAM כדי לפרוק אליו את כל השכבות, או מעבד חזק עם שפע של זיכרון RAM אם אתם מוכנים לסבול ירידה משמעותית בקצב יצירת הטוקנים.

אם כל מה שאתם צריכים זה ניסוי קצר או עיבוד חד פעמי, עדיף להשתמש ב־API מנוהל של מודל מקביל במקום להוריד עשרות גיגה בייטים של קבצים ולהסתבך עם קומפילציה ידנית של ספריות C++ ותמיכת CUDA.

ollama run hf.co/huihui-ai/Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF:Q6_K

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

BF1618.4 GB Q8_09.8 GB Q6_K7.6 GB Q5_K6.6 GB Q4_K5.8 GB BF16921.7 MB

הקבצים

8 קבצים במאגר, 45.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי, שינוי של הקוד והמשקלים והפצה מחדש, בתנאי ששומרים על הודעות זכויות היוצרים ומצרפים עותק של הרישיון המקורי. זה אומר שמבחינה משפטית מותר לשלב אותו במוצר מסחרי, אך כל האחריות לתוכן שהמודל פולט חלה על מי שמפיץ אותו.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗