GPT
הוספת כלי
D

DeepSeek-V3.1-Terminus

קוד פתוח

deepseek-aimit2025-09-22

  • transformers
  • safetensors
  • deepseek_v3
  • text-generation
  • conversational

גרסת עדכון עצומה שמיועדת להפעלת סוכני קוד וחיפוש עם פחות תקלות שפה. המודל פותר בעיות ערבוב שפות ומציג זינוק חד בביצועי סוכנים ופתרון בעיות תוכנה.

  • 685Bפרמטרים
  • 163,840טוקנים בהקשר
  • 641 GBמשקל הקבצים
  • 17,763הורדות בחודש

מה זה

העדכון הזה שומר על הארכיטקטורה המקורית של הסדרה, אבל מתמקד בשני שיפורים ספציפיים: עקביות שפה וביצועי סוכנים. הוא מקצץ תופעות של ערבוב בין סינית לאנגלית ותווים מוזרים שצצו בתשובות, ומשפר את היכולת להפעיל כלים חיצוניים. המבנה נשאר זהה לגרסה שלוש, אך כולל עדכון לתבניות ולסט הכלים של סוכן החיפוש.

במדדים רואים שהשינוי המרכזי הוא באוטונומיה ובשימוש בכלים ולא בידע תיאורטי טהור. בבחינות מדע וקוד ללא כלים השינויים זניחים, אבל במבחני סוכנים כמו דפדפן, מסוף ופתרון באגים בעולם האמיתי יש קפיצות ברורות. במבחן Humanity's Last Exam הציון עלה מ־15.9 ל־21.7, וב־BrowseComp נרשם זינוק מ־30.0 ל־38.5, מה שמעיד על הבנה טובה יותר של משימות רב שלביות ברשת.

מתאים ל

  • סוכני פיתוח ותיקון באגים

    מתאים לפתרון תקלות בריפו שלם עם שיפור מוכח במדדי SWE Verified מול הגרסה הקודמת.

  • אוטומציה של מסוף ומערכות

    יכולת משופרת להרצת פקודות בסביבת טרמינל ובדיקת פלטים לפי מבחן Terminal-bench.

  • סוכני מחקר וסריקת רשת

    תבניות החיפוש המעודכנות והקפיצה במדד BrowseComp מאפשרות איסוף מידע עקבי מהרשת.

איפה זה נופל

יש כאן כמה נקודות תורפה שחייבים להכיר. קודם כול, בבנצ'מרק Codeforces יש למעשה ירידה מציון של 2091 ל־2046, וגם ב־BrowseComp בסינית הציון ירד מ־49.2 ל־45.0, כך שלא כל תחום השתפר. בנוסף, המפתחים מודים בבאג מובנה בקבצי המודל הנוכחיים: הפרמטרים של self_attn.o_proj אינם תואמים לפורמט UE8M0 FP8. אם תכננתם קוונטיזציה מסוימת שמסתמכת על הפורמט הזה, תיתקלו בבעיות עד השחרור הבא.

שאלות
נפוצות

האם חייבים להשתמש בתבניות שיחה חדשות מול המודל?

עבור סוכן החיפוש יש תבנית וסט כלים מעודכנים שחובה לאמץ לפי הדוגמה שהם צירפו. עבור שאר משימות הצ'אט הרגילות, המבנה נשאר זהה לגרסה 3.1 הקודמת.

מה משמעות הבאג שדווח בפרמטרים של o_proj?

המשקלים בשכבה הזו לא עברו התאמה נכונה לפורמט הנתונים המוקטן UE8M0 FP8. אם אתם מריצים בדיוק המקורי זה יעבוד, אבל הרצה או אופטימיזציה שדורשת את הפורמט הספציפי הזה תיכשל עד שיצא עדכון מתוקן.

איך מריצים

להריץ מודל של 685 מיליארד פרמטרים ששוקל 641 גיגה בייט בקבצים זה פרויקט תשתיתי יקר. תצטרכו שרת עם אשכול של מעבדי GPU חזקים מאוד, לרוב לפחות שמונה כרטיסי שרת עם זיכרון וידאו גבוה מאוד רק כדי לטעון את המשקלים בפורמט bfloat16, עוד לפני שדיברנו על ניהול הקשר של מעל 160 אלף טוקנים. הרצה מקומית על תחנת עבודה רגילה היא פשוט לא אופציה.

אלא אם יש לכם חומרה ייעודית בארגון או צורך אבטחתי קריטי להחזיק את המידע בפנים, עדיף בהרבה לפנות ל־API חיצוני שמספק גישה למודל. יש גם קוד הרצה ייעודי בתיקיית המקור כדי ללמוד את הארכיטקטורה, אבל למוצר פעיל עדיף לחסוך את כאב הראש התפעולי ולשלם פר טוקן.

from transformers import pipeline

pipe = pipeline("text-generation", model="deepseek-ai/DeepSeek-V3.1-Terminus")
print(pipe("שלום"))

הקבצים

181 קבצים במאגר, 641 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

המודל והמשקלים שלו משוחררים תחת רישיון MIT. מדובר ברישיון קוד פתוח מתירני מאוד שמאפשר שימוש מסחרי חופשי לחלוטין, שינוי של המשקלים, הפצה ושילוב בכל מוצר סגור או פתוח. התנאי היחיד הוא שמירת הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗