deepseek-coder-1.3b-instruct-GGUF

מה זה

מדובר במודל שפת קוד קומפקטי של 1.3 מיליארד פרמטרים, שאומן מראש על 2 טריליון טוקנים המורכבים ברובם מקוד ומעט שפה טבעית באנגלית ובסינית, ולאחר מכן עבר כוונון הוראות על 2 מיליארד טוקנים נוספים. המקור מגיע עם חלון הקשר של 16K ותמיכה במשימות השלמת קוד באמצע קובץ. ההמרה לפורמט GGUF נועדה לפשט את השימוש בכלים מקומיים.

בגודל הזה אין ציפייה לניתוח מעמיק של ארכיטקטורות מורכבות. הוא נבנה כדי לתת מענה מהיר למשימות קוד מוגדרות, השלמת שורות ותחביר בסיסי, כשהיתרון העיקרי לעומת מודלים כלליים באותו סדר גודל הוא המיקוד הכמעט מוחלט שלו במאגרי תוכנה.

מתאים ל

• השלמת קוד מקומית ב־IDE

  צריכת משאבים אפסית כמעט שמאפשרת להריץ השלמות תחביר ופונקציות ברקע של עורך הקוד בלי לפגוע בביצועי המחשב.

• עבודה בסביבה מנותקת רשת

  מאפשר לקבל סיוע בכתיבת סקריפטים ומדעי המחשב באנגלית על מחשב מבודד ללא שום תלות בחיבור אינטרנט או שרתי ענן.

• בדיקת שגיאות תחביר ומיקרו-טסט

  משקל קובץ מינימלי בגרסאות Q4 ו־Q5 שמתאים להרצה בתוך תהליכי אוטומציה פשוטים לבדיקת קטעי קוד מוגדרים.

איפה זה נופל

זה עדיין מודל של 1.3 מיליארד פרמטרים בלבד. הוא נוטה לשגות בלוגיקה מורכבת, מתבלבל באלגוריתמים מתקדמים ומייצר הזיות בקלות אם מבקשים ממנו משימות פיתוח רחבות. תבנית ההנחיה המובנית שלו גם מצהירה במפורש שהוא מסרב לענות על שאלות שאינן קשורות ישירות למדעי המחשב. בנוסף, חלקי השפה הטבעית אומנו רק על אנגלית וסינית, כך שאין מה לבנות עליו לפקודות או הסברים בעברית.

אותה משפחה

deepseek-coder יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

את קובצי ה־GGUF מריצים ישירות על מעבד רגיל או עם האצת כרטיס מסך בעזרת ספריות כמו llama.cpp, ממשקי LM Studio, או בסביבת פייתון עם ctransformers. המשקל של הקבצים נע בין חצי גיגה־בייט בגרסאות המכווצות ביותר ועד כ־1.43 גיגה־בייט בגרסת 8 ביט, כך שגם מחשב נייד פשוט עם 4 גיגה זי RAM יריץ אותו בלי להזיע, כשההמלצה היעילה ביותר לביצועים ואיכות היא גרסת Q4_K_M או Q5_K_M.

אם אתם מחפשים קוד שמבין פרויקטים שלמים או כתיבת מערכות מורכבות מאפס, עדיף לפנות ל־API של מודל ענן גדול. הרצה מקומית של המודל הזה מתאימה כשחשוב לכם לחסוך עלויות לחלוטין או כשהקוד רגיש ואסור לו לעזוב את המחשב.

ollama run hf.co/TheBloke/deepseek-coder-1.3b-instruct-GGUF:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

15 קבצים במאגר, 10.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• deepseek-coder-1.3b-instruct.Q8_0.gguf1.4 GB
• deepseek-coder-1.3b-instruct.Q6_K.gguf1.2 GB
• deepseek-coder-1.3b-instruct.Q5_K_M.gguf1.0 GB
• deepseek-coder-1.3b-instruct.Q5_K_S.gguf953.0 MB
• deepseek-coder-1.3b-instruct.Q5_0.gguf936.1 MB
• deepseek-coder-1.3b-instruct.Q4_K_M.gguf873.6 MB
• deepseek-coder-1.3b-instruct.Q4_K_S.gguf814.8 MB
• deepseek-coder-1.3b-instruct.Q4_0.gguf776.1 MB
• deepseek-coder-1.3b-instruct.Q3_K_L.gguf744.6 MB
• deepseek-coder-1.3b-instruct.Q3_K_M.gguf705.0 MB
• deepseek-coder-1.3b-instruct.Q3_K_S.gguf658.9 MB
• deepseek-coder-1.3b-instruct.Q2_K.gguf631.7 MB
• README.md21.3 KB
• .gitattributes2.4 KB
• config.json32 B

הרישיון

הרישיון המוגדר במאגר הוא other. לפי התיעוד המקורי של DeepSeek, השימוש במודל כולל תמיכה בשימוש מסחרי בכפוף לתנאי רישיון המודל הייעודי שלהם, בעוד קוד המאגר הכללי מוגדר תחת MIT. מי שמתכנן להטמיע אותו במוצר מסחרי חייב לבדוק את נוסח הרישיון המקורי בקובץ LICENSE-MODEL כדי לוודא עמידה במגבלות.

הרישיון המלא בעמוד המודל ↗