GPT
הוספת כלי
N

Nanbeige4-3B-Thinking-2511

קוד פתוח

Nanbeigeapache-2.02025-11-20

  • transformers
  • safetensors
  • llama
  • text-generation
  • llm

מודל חשיבה קומפקטי שמכוון לביצועי היגיון וקריאות לפונקציות ברמה של מודלים ענקיים. הוא מתאים למי שחייב יכולת ניתוח עמוקה מקומית בלי לתפוס שרת שלם.

  • 3.9Bפרמטרים
  • 65,536טוקנים בהקשר
  • 7.3 GBמשקל הקבצים
  • 876הורדות בחודש

מה זה

הפיתוח הזה לוקח בסיס של 3.9 מיליארד פרמטרים ומכוון אותו לחשיבה מורכבת באמצעות זיקוק ידע ולמידת חיזוק. לפי נתוני המפתחים, הוא מציג תוצאות שגוברות על מודלים פתוחים של עד 32 מיליארד פרמטרים במבחנים תובעניים כמו AIME, GPQA-Diamond ו־Arena-Hard-V2. הוא עוקף אפילו את Qwen3-32B במבחן קריאות הפונקציה של ברקלי, שזה הישג חריג לנפח כזה.

בנוסף להיגיון מתמטי וכתיבת קוד, הוא מגיע למקום 15 במדד EQBench3 ומקום 11 ב־WritingBench. זה אומר שבניגוד לחלק ממודלי החשיבה הקטנים שנוטים להיות יבשים או נוקשים מדי, הוא שומר על יכולת ניסוח טבעית והתאמה טובה להעדפות אנושיות, תוך תמיכה בחלון הקשר נדיב של 65,536 טוקנים.

מתאים ל

  • סוכנים מבוססי כלים

    מדורג במקום גבוה במבחן ברקלי לפונקציות, ומאפשר הרצת סוכנים אוטונומיים על חומרה צנועה.

  • פתרון בעיות מתמטיות

    מספק יכולת חשיבה שלבית והיגיון עמוק במבחני AIME ו־GPQA בלי צורך בשרתי ענק.

  • ניתוח מסמכים ארוכים

    חלון הקשר של 65,536 טוקנים מאפשר להזין טקסטים רחבים באנגלית או סינית ולהסיק מסקנות.

איפה זה נופל

בגלל גודלו המצומצם והאופי ההסתברותי שלו, המפתחים מזהירים שהוא עלול לייצר פלטים בלתי צפויים, מוטים או פוגעניים. מעבר לזה, המודל אומן ותומך רשמית רק באנגלית ובסינית. אין פה תמיכה רשמית בעברית, ולכן ניסיון להריץ עליו שרשראות חשיבה בעברית צפוי להוביל להזיות, שגיאות תחביר או מעבר לאנגלית באמצע התהליך.

שאלות
נפוצות

האם אפשר להשתמש במודל הזה לעיבוד טקסט בעברית?

הכרטיס מצהיר על תמיכה באנגלית ובסינית בלבד. הוא עשוי לזהות עברית בסיסית, אבל מודלי חשיבה בגודל כזה מאבדים במהירות את ההיגיון בשפות שלא אומנו עבורן, ולכן לא מומלץ לבנות עליו לפרויקט מקומי בעברית.

איזה כרטיס מסך צריך כדי להריץ אותו בפועל?

המשקלים שוקלים 7.3 גיגה בייט. כרטיס עם 12 גיגה זיכרון כמו RTX 3060 יריץ אותו היטב, אך לשימוש בחלון ההקשר המלא של 65 אלף טוקנים עדיף כרטיס עם 16 גיגה זיכרון ומעלה.

איך מריצים

בזכות משקל של 7.3 גיגה בייט בפורמט bfloat16, המודל הזה נכנס בקלות לכרטיס מסך ביתי בודד עם 12 או 16 גיגה זיכרון, ומשאיר מספיק מקום לטעינת הקשר ארוך. מריצים אותו ישירות דרך ספריית transformers עם הגדרת trust_remote_code, והמפתחים ממליצים על טמפרטורה של 0.6 ו־Top-p של 0.95 כדי לשמור על יציבות החשיבה.

אם אתם צריכים רק מענה מהיר ופשוט לשאלות יומיומיות, מודלים רגילים יעשו את העבודה בפחות משאבים. ריצה מקומית שלו משתלמת במיוחד כשבונים סוכנים שדורשים הפעלת כלים רציפה, חשיבה שלבית, ופרטיות מלאה של המידע המעובד.

from transformers import pipeline

pipe = pipeline("text-generation", model="Nanbeige/Nanbeige4-3B-Thinking-2511")
print(pipe("שלום"))

הקבצים

17 קבצים במאגר, 7.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הקוד והמשקלים משוחררים תחת רישיון apache-2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי הקוד והפצה חופשית בתוך מוצרים. התנאי העיקרי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקבצים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗