GLM-4.1V-9B-Thinking-GGUF

קוד פתוח

unslothmit2025-07-25

transformers
gguf
reasoning
unsloth
image-text-to-text

זהו מודל ראייה ושפה בגודל תשעה מיליארד פרמטרים שמשלב תהליכי חשיבה עמוקים. הוא נותן פתרון לניתוח ויזואלי מורכב בלי להזדקק לחוות שרתים ענקית.

153 GBמשקל הקבצים
2,693הורדות בחודש
44לייקים

מה זה

מדובר במודל שפותח על בסיס GLM-4-9B ועבר אימון עם למידת חיזוק כדי לבצע שרשרת חשיבה לפני שהוא עונה. הייעוד העיקרי שלו הוא משימות תמונה וטקסט שדורשות הבנה מעמיקה, מתמטיקה והסקה לוגית, ולא רק תיאור בסיסי של מה שמופיע בפריים.

במבחני ביצועים הוא עקף מודלים אחרים בקטגוריית עשרה מיליארד פרמטרים בעשרים ושלושה מתוך עשרים ושמונה מבחנים שונים. יוצרי המודל מדווחים שהוא ניצח מודלים גדולים בהרבה, כמו הגרסה של שבעים ושניים מיליארד פרמטרים של Qwen-2.5-VL, בשמונה עשרה משימות, מה שמראה שהמיקוד בתהליכי חשיבה מפצה על חוסר במשקל כולל.

מתאים ל

פתרון בעיות מתמטיות מתמונות
שרשרת החשיבה מאפשרת לו לפרק משוואות וגרפים לצעדים לוגיים מדויקים.
ניתוח מסמכים ותרשימים
הוא מטפל בתמונות ברזולוציית ארבע קיי ובהקשר ארוך של עד שישים וארבעה אלף טוקנים.
סוכנים חזותיים אוטונומיים
האימון בלמידת חיזוק נותן לו יכולת טובה להבין מצבי מסך מורכבים ולתכנן פעולות.

איפה זה נופל

התמיכה מוגבלת רשמית לאנגלית ולסינית בלבד, כך שאין כאן התאמה לעבודה בעברית. בנוסף, תהליך החשיבה המובנה מייצר הרבה טוקנים של הסברים וחישובי ביניים לפני התשובה הסופית, מה שמעלה משמעותית את זמני ההמתנה בהשוואה למודלי ראייה סטנדרטיים. לא הייתי משתמש בו לאפליקציות שדורשות תגובה בזמן אמת.

שאלות
נפוצות

האם המודל יודע לקרוא טקסט בעברית מתוך תמונה?

הכרטיס מגדיר תמיכה באנגלית ובסינית בלבד. אין תיעוד ליכולות בעברית, ולכן ניתוח טקסט עברי צפוי להיכשל או להחזיר שגיאות פענוח.

איך מריצים את קובצי ה־GGUF בלי שבירות בפורמט?

מריצים דרך llama.cpp ומוסיפים את הדגל jinja לשורת הפקודה. יוצרי המאגר מציינים שזה חיוני כדי שטמפלייט השיחה יעבוד כראוי.

איך מריצים

הדף הזה כולל המרות GGUF שביצעה Unsloth, מה שאומר שתוכלו להריץ אותו מקומית דרך llama.cpp, אבל חובה להשתמש בדגל jinja בגלל התבנית של השיחה. סך הקבצים בהפצה שוקל מאה חמישים ושלושה גיגה בייט ומחולק לעשרים ותשעה קבצים של רמות כימות שונות, כך שתצטרכו להוריד רק את הקובץ המתאים לזיכרון שלכם.

המודל מיועד לכרטיסי מסך ביתיים חזקים יחסית, והוא יודע לעבוד עם תמונות ברזולוציה של עד ארבע קיי וחלון הקשר של שישים וארבעה אלף טוקנים. אם יש לכם כרטיס בודד עם מעט זיכרון וידאו, זמני החישוב של שרשרת החשיבה יהיו איטיים מאוד ויהיה עדיף לפנות לנקודת הקצה של Zhipu ברשת.

ollama run hf.co/unsloth/GLM-4.1V-9B-Thinking-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

29 קבצים במאגר, 153 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ ברישיון MIT. הרישיון הזה מתיר שימוש מסחרי חופשי, שינוי קוד והפצה מחדש, בלי תמלוגים או הגבלות שימוש נוקשות, כל עוד שומרים על הודעת זכויות היוצרים המקורית בתוך התוכנה.

שימוש מסחרי
שינוי הקוד
הפצה מחדש

הרישיון המלא בעמוד המודל ↗