deepreinforce-ai_Ornith-1.0-35B-GGUF

קוד פתוח

bartowskimit2026-06-25

gguf
image-text-to-text
endpoints_compatible
imatrix
conversational

גרסת GGUF של מודל מולטימודלי בגודל 35 מיליארד פרמטרים שמשלב עיבוד תמונה וטקסט עם תמיכה בחשיבה מובנית. מתאים למי שרוצה להריץ לוקאלית מודל ראייה כבד בלי לשלם על קריאות ענן יקרות.

532 GBמשקל הקבצים
5,673הורדות בחודש
65לייקים

מה זה

מדובר במודל שפותח על ידי deepreinforce-ai ועבר כיול והמרה לקובצי GGUF על ידי bartowski בעזרת llama.cpp גרסה b9781 ודאטהסט imatrix ייעודי. המשימה המוגדרת שלו היא עיבוד תמונה וטקסט והחזרת תשובה טקסטואלית, כאשר הפורמט שלו כולל מודעות לשלב מחשבה מקדים באמצעות תגית think בתשובת העוזר.

המשקל המלא שלו מגיע בפורמט BF16 לגודל של 69.38 ג'יגה בייט, אך המאגר מכיל עשרות כיולים שמגיעים עד לגרסאות דחוסות מאוד של פחות מעשרה ג'יגה בייט. בחלק מגרסאות הביניים, משקלי השכבות החיצוניות נשמרים ברמת Q8_0 כדי לשמור על יציבות הפלט, מה שמאפשר להריץ מודל בגודל כזה בדיוק גבוה גם על חומרה צנועה יחסית.

מתאים ל

ניתוח מסמכים ותמונות מקומי
מאפשר לעבד תמונות עם טקסט ישירות על חומרה מקומית ללא הוצאת מידע רגיש לרשת חיצונית.
מערכות מענה עם שלב חשיבה
מתאים לתרחישים שדורשים מהמודל לייצר שלב מחשבה מקדים לפני הפלט הסופי באמצעות התחביר המובנה.
שרת מקומי על כרטיס יחיד
כיול Q4_K_M יושב היטב בתוך כרטיס של 24 ג'יגה זיכרון ומספק שילוב טוב בין גודל לאיכות.

איפה זה נופל

הכרטיס הזה מספק קובצי GGUF בלבד ולא כולל שום מידע על נתוני האימון המקוריים, ביצועים במבחנים מקובלים, יכולות שפה או רמת התמיכה בעברית. היות ומדובר במודל מולטימודלי חדש, ייתכן שתצטרכו להמתין לעדכונים בכלים שלכם כדי שיזהו את הארכיטקטורה בצורה תקינה. בנוסף, לא מצוינים גבולות חלון ההקשר, ולכן חובה לבדוק התנהגות מול תמונות מורכבות לפני שמשלבים אותו במערכת פעילה.

אותה משפחה

deepreinforce-ai-Ornith-1.0 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

deepreinforce-ai_Ornith-1.0-9B-GGUF6,676

שאלות
נפוצות

איזה קובץ הכי כדאי להוריד לבדיקה ראשונה?

הקובץ המומלץ לרוב המשתמשים הוא Q4_K_M בגודל 21.39 ג'יגה בייט. הוא שומר על איכות טובה של המודל המקורי ונכנס בכרטיסי מסך בעלי 24 ג'יגה בייט זיכרון. אם המקום מוגבל, אפשר לבחור בגרסת IQ4_XS של 18.81 ג'יגה בייט.

האם המודל ירוץ ישירות על מעבד בלי כרטיס מסך ייעודי?

אפשר להריץ אותו על מעבד באמצעות llama.cpp או כלים דומים, במיוחד עם קובץ Q4_0 שמבצע סידור משקלים בזמן אמת למעבדי ARM ו־AVX. יחד עם זאת, מודל של 35 מיליארד פרמטרים ידרוש כמות גדולה של זיכרון מערכת ויעבוד בקצב איטי משמעותית בהשוואה להרצה על כרטיס מסך.

איך מריצים

בשביל להריץ אותו צריך כלי כמו llama.cpp, LM Studio, ramalama, או koboldcpp. אם אתם מכוונים לגרסת ברירת המחדל המומלצת, Q4_K_M ששוקלת 21.39 ג'יגה בייט, תצטרכו כרטיס מסך עם לפחות 24 ג'יגה בייט זיכרון כדי להחזיק את כל המשקלים יחד עם הקשר העבודה. לחלופין, אפשר לרדת לכיולים כמו IQ4_XS של 18.81 ג'יגה בייט או לקוונטים נמוכים יותר בסגנון IQ2_M של 12.07 ג'יגה בייט אם יש לכם פחות משאבים.

אם יש לכם מחשב מבוסס ARM או מעבד עם AVX, קובץ Q4_0 מאפשר סידור משקלים אוטומטי בזמן ריצה כדי לחסוך זמן עיבוד. אם אין לכם כרטיס מסך מתאים ואתם מתכננים להריץ את גרסאות ה־30 ג'יגה בייט ומעלה רק על זיכרון המחשב הרגיל, מהירות היצירה תהיה איטית מאוד ובמצב כזה עדיף לצרוך מודל דרך ספק חיצוני.

ollama run hf.co/bartowski/deepreinforce-ai_Ornith-1.0-35B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

33 קבצים במאגר, 532 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון MIT. המשמעות היא שמותר להשתמש בו לכל מטרה, כולל שימוש מסחרי מלא, שינוי הקוד או שילוב בקבצים פנימיים של מוצר. התנאי היחיד הוא שמירת הודעת זכויות היוצרים והפטור מאחריות של היוצרים המקוריים.

שימוש מסחרי
שינוי הקוד
הפצה מחדש

הרישיון המלא בעמוד המודל ↗