OmniCoder-9B-GGUF

קוד פתוח

Tesslateapache-2.02026-03-12

gguf
llama-cpp
qwen3.5
omnicoder
tesslate

גרסת קבצים מכווצים למודל קוד של תשעה מיליארד פרמטרים. היא פונה למי שמחפש להריץ מודל פיתוח מקומית על מחשב אישי בלי תלות בענן.

81.9 GBמשקל הקבצים
8,820הורדות בחודש
339לייקים

מה זה

מדובר באוסף קובצי GGUF של OmniCoder-9B מבית Tesslate, שמיועדים להרצה יעילה דרך ספריות כמו llama.cpp. הדף מציע את כל קשת הקוונטיזציות, החל מגרסאות דחוסות מאוד של פחות מארבעה גיגהבייט ועד משקלים מלאים בפורמט BF16 שתופסים כמעט שמונה עשרה גיגהבייט. אין בעמוד מידע על ארכיטקטורת המקור או נתוני ביצועים במבחנים מקובלים, כך שצריך לבחון בעצמכם איך הוא מתמודד מול מודלי קוד מוכרים בגודל הזה.

היתרון המרכזי כאן הוא הנגישות המיידית לעבודה מקומית. הדף ממליץ ספציפית על גרסת Q4_K_M במשקל של 5.7 גיגהבייט כאיזון המרכזי בין שימור יכולות הקוד לבין צריכת זיכרון שפויה. מי שצריך דיוק גבוה יותר יכול לפנות לגרסאות ה־Q8 או ה־BF16, ומי שמוגבל בחומרה יכול לרדת עד לגרסת ה־Q2_K שמוגדרת כדחיסה קיצונית באיכות נמוכה.

מתאים ל

עוזר קוד מקומי במחשב
גרסת Q4_K_M שוקלת 5.7 גיגהבייט ורצה בקלות על מעבד או כרטיס מסך מודרני בלי להוציא נתונים לרשת.
שרת השלמות פרטי בארגון
הרמת שרת מקומי עם llama-server שמתחבר לעורכי קוד של מפתחים בלי לחשוף מאגרי קוד פנימיים.
הרצה על חומרה חלשה
שימוש בגרסת Q2_K או Q3 ששוקלות פחות מחמישה גיגהבייט כשחייבים להריץ על זיכרון מוגבל במיוחד.

איפה זה נופל

כרטיס המודל לא חושף כמעט כלום. אין ציונים במבחני תכנות, אין תיעוד של שפות הפיתוח שהוא אומן עליהן, ואין שום מידע על בסיס הנתונים ששימש לאימון. בנוסף, גרסאות הדחיסה הנמוכות כמו Q2_K מאבדות איכות בצורה ניכרת לפי הגדרת היוצרים עצמם, מה שעלול לייצר תחביר שבור או באגים בקוד. אל תשלבו אותו בתהליכי עבודה בלי לבדוק קודם איך הוא מתמודד עם השפה והספריות שבהן אתם כותבים בפועל.

אותה משפחה

OmniCoder יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

OmniCoder-9B884

שאלות
נפוצות

איזו גרסה כדאי להוריד למחשב פיתוח רגיל?

היוצרים ממליצים על גרסת Q4_K_M שתופסת 5.7 גיגהבייט. היא מציעה את האיזון הסביר ביותר בין גודל הקובץ לבין שמירה על איכות יצירת הקוד, בלי לחנוק את הזיכרון של המחשב.

האם אפשר להשתמש במודל הזה בתוך מוצר מסחרי?

כן, הרישיון המדווח הוא apache-2.0 שמאפשר שימוש מסחרי חופשי והפצה מחדש. כל מה שנדרש זה לכלול את תנאי הרישיון ואת הודעת זכויות היוצרים של Tesslate.

איך מריצים

אתם מתקינים את llama.cpp דרך brew או מקמפלים ידנית, ומריצים ישירות מול המאגר עם llama-cli או מעלים שרת מקומי תואם OpenAI עם llama-server. ההרצה מוגדרת כברירת מחדל עם הקשר של 8192 טוקנים.

בשביל גרסת Q4_K_M המומלצת תצטרכו מחשב עם כשמונה גיגהבייט זיכרון פנוי כדי להחזיק את הקובץ וההקשר. אם אתם רוצים את גרסת BF16 המלאה שמגיעה ל־17.9 גיגהבייט, כבר תצטרכו כרטיס מסך רציני עם לפחות 24 גיגהבייט זיכרון, ובמצב כזה שווה לשקול פשוט פנייה ל־API חיצוני במקום לקנות חומרה ייעודית.

ollama run hf.co/Tesslate/OmniCoder-9B-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

BF1617.9 GB Q8_09.5 GB Q6_K7.4 GB Q5_K_M6.5 GB Q5_06.3 GB Q5_K_S6.3 GB Q4_K_M5.7 GB Q4_K_S5.4 GB Q4_05.3 GB Q3_K_L4.9 GB Q3_K_M4.6 GB Q3_K_S4.3 GB Q2_K3.8 GB

הקבצים

15 קבצים במאגר, 81.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל מופץ תחת רישיון apache-2.0. מותר להשתמש בו לצרכים מסחריים, לשנות את הקוד ולהפיץ אותו הלאה בחינם או בתשלום. התנאי המרכזי הוא שמירה על הודעת זכויות היוצרים וציון הרישיון המקורי בכל הפצה של התוצר.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗