Ornith-1.5-35B-A3B-Abliterated-GGUF

קוד פתוח

PocketAiHubmit2026-08-21

gguf
llama.cpp
ornith
qwen3.5-moe
multimodal

גרסת GGUF שעברה הסרת מנגנוני סירוב למודל מולטימודלי של 35 מיליארד פרמטרים. היא עונה על בקשות בלי לחסום ומיועדת להרצה מקומית על מחשבים אישיים.

120 GBמשקל הקבצים
54,158הורדות בחודש
40לייקים

מה זה

הפרויקט הזה לוקח את המודל המקורי של Ornith AI, שמכיל 35 מיליארד פרמטרים ומסוגל לעבד תמונות וטקסט, ומבצע עליו עריכה ישירה במשקולות כדי לדכא סירובים. המטרה היא לתת למודל לענות ישירות על שאלות מבלי שיעצור בגלל מנגנוני בטיחות מובנים. מעבר לטקסט, המודל שומר על יכולת ראייה באמצעות קובץ מקרן נפרד בגודל 0.84 גיגה-בייט, שמשתמש במשקולות המקוריות שלא שונו.

במבחני הסירוב שהמפתחים הריצו מול מאה בקשות בעייתיות, גרסת ה־Q4 סירבה רק לשלוש מתוכן, וגרסת ה־Q8 סירבה לאחת בלבד, לעומת אפס סירובים בבקשות רגילות. בנוסף, בדיקות הדחיסה מראות שגרסת ה־Q4 שומרת על התאמה של 90.64 אחוז בבחירת הטוקנים בהשוואה לגרסת המקור הלא דחוסה, כך שההפחתה בגודל הקובץ מגיעה עם מחיר דיוק מסוים אבל סביר לחלוטין לשימוש יומיומי.

מתאים ל

מחקר מקומי של התנהגות מודלים
מאפשר לבדוק את השפעות הדחיסה והסרת הסירובים ישירות על החומרה שלכם.
ניתוח תמונות ללא צנזורה מובנית
חיבור קובץ הראייה מאפשר עיבוד תמונות ובקשות טקסט חופשיות דרך llama.cpp.
מענה אוטומטי במערכות סגורות
מתאים לצינורות עיבוד פנימיים שבהם סירובי מודל גנריים עוצרים את זרימת העבודה.

איפה זה נופל

הסרת מנגנוני הסירוב לא הופכת את המודל לחכם או מדויק יותר. היוצרים מבהירים במפורש שהוא עלול לפלוט מידע שגוי לחלוטין, מטעה או פוגעני בקלות רבה בהרבה ממודל רגיל. אסור להניח שהוא תמיד יישמע להוראות, ונדרש לבנות שכבת סינון ובדיקה משלכם לפני שחושפים אותו למשתמשי קצה.

בנוסף, ראש הפענוח הספקולטיבי המקורי לא נכלל כאן, ויכולות הראייה נבדקו מקצה לקצה רק על גרסת ה־Q4 ולא על הגרסאות הכבדות יותר. המודל מוגדר עבור השפה האנגלית בלבד.

שאלות
נפוצות

איזה קובץ צריך להוריד כדי להתחיל לעבוד?

לשימוש רגיל בטקסט מספיק להוריד את קובץ ה־Q4_K_M ששוקל כ־19.7 גיגה-בייט. אם אתם רוצים לנתח גם תמונות, חובה להוריד בנוסף את קובץ ה־mmproj ששוקל 0.84 גיגה-בייט.

האם המודל מדויק יותר מהגרסה המקורית של Ornith AI?

לא, העריכה שבוצעה בו נגעה אך ורק בנטייה לסרב לבקשות שנויות במחלוקת. היא לא משפרת את איכות התשובות ואף מגבירה את הסיכון להזיות ולתשובות שגויות.

האם אפשר להשתמש בו במוצר מסחרי?

כן, רישיון MIT מתיר שימוש מסחרי מלא והפצה חופשית. עם זאת, בגלל נטרול מנגנוני ההגנה, האחריות על בקרת התוכן שהמודל מייצר נופלת עליכם.

איך מריצים

את המודל מריצים מקומית בעזרת כלי llama.cpp. גרסת ה־Q4_K_M שוקלת 19.71 גיגה-בייט ודורשת כרטיס מסך עם לפחות 24 גיגה-בייט זיכרון כדי לטעון את כולה, או שילוב של מעבד וזיכרון מערכת מהיר. אם תרצו גם יכולות תמונה, תצטרכו להוריד בנפרד את קובץ ה־mmproj ולהריץ דרך הפקודה הייעודית.

גרסת ה־Q8 שוקלת 34.37 גיגה-בייט וגרסת ה־BF16 המקורית תופסת מעל 64 גיגה-בייט. לרוב מפתחי התוכנה, גרסת ה־Q4 מספקת פשרה טובה בהרבה. אם אין לכם חומרה מתאימה עם מספיק זיכרון וידאו, החישוב על המעבד הרגיל יהיה איטי מאוד, ובמקרה כזה עדיף לשלם לפי שימוש לספק API חיצוני שמארח מודלים פתוחים.

ollama run hf.co/PocketAiHub/Ornith-1.5-35B-A3B-Abliterated-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

BF1669.4 GB Q8_036.9 GB Q4_K_M21.2 GB F16899.3 MB

הקבצים

15 קבצים במאגר, 120 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט משוחרר תחת רישיון MIT, שמקורו במודל הבסיס. זהו רישיון מתירני שמאפשר שימוש מסחרי, שינוי, הפצה והטמעה במוצרים סגורים ללא תשלום תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית והקרדיט למפתחים.

שימוש מסחרי
שינוי הקוד
הפצה מחדש

הרישיון המלא בעמוד המודל ↗