GPT
T

T-pro-it-2.0

קוד פתוח

t-techapache-2.02025-07-17

  • transformers
  • safetensors
  • qwen3
  • text-generation
  • conversational

מודל של 33 מיליארד פרמטרים מבוסס Qwen 3, שעבר אימון ייעודי למשימות חשיבה ושיחה ברוסית. הוא מאפשר מעבר ידני בין מצב מענה רגיל למצב הסקת מסקנות מעמיק.

  • 33Bפרמטרים
  • 40,960טוקנים בהקשר
  • 61.0 GBמשקל הקבצים
  • 2,170הורדות בחודש

מה זה

המודל הזה נבנה על גבי בסיס של Qwen 3 ועבר הרחבת אימון על 40 מיליארד טוקנים של הוראות, לצד כיוונון עדין על חצי מיליון דוגמאות ואימון העדפות על מאה אלף נוספות. הדגש כאן הוא על שפה רוסית ומשימות הסקה לוגית, תחום שבו מודלים כלליים בגודל הזה מתקשים לעיתים קרובות מול השפה.

במדדים בשפה הרוסית כמו ruMMLU, Ru Arena Hard ומבחני קוד ומתמטיקה כמו ru LCB ו־ru AIME 2025, הוא מציג ציונים גבוהים יותר ממודל הבסיס Qwen 3 32B וגם מ־DeepSeek-R1-Distill-Qwen-32B. המשמעות בפועל היא יכולת טובה יותר להבין שאלות מורכבות, לפרק בעיות מתמטיות ולכתוב קוד כשההנחיות ניתנות ברוסית, במקום לספק תשובות שבורות תחבירית או שגויות עובדתית.

מתאים ל

  • בוט שיחה מורכב ברוסית

    הוא מיועד במפורש לשמש כעוזר שיחה ברוסית, ומספק הבנה שפתית טובה יותר ממודלים כלליים.

  • פתרון בעיות מתמטיקה ברוסית

    אימון ייעודי על משימות הסקה מעניק לו יתרון ניכר במבחני מתמטיקה כמו ru AIME 2025.

  • יצירת קוד לפי הנחיות ברוסית

    הציונים הגבוהים ב־ru LCB מראים יכולת מדויקת יותר בכתיבת קוד כששפת הפרומפט היא רוסית.

איפה זה נופל

המודל מיועד ומאומן סביב השפה הרוסית בלבד לפי המפרט, כך שאם אתם בונים שירות בעברית או באנגלית הוא לא מביא יתרון על פני חלופות קיימות. היוצרים מדגישים בפירוש שאין פה ערובה לבטיחות ואתיקה, ומי שמשלב אותו במוצר מסחרי אחראי בעצמו לבצע אימון נוסף ובקרה על התוכן. בנוסף, חובה להגדיר ידנית את דגל מצב החשיבה בטוקנייזר ולכוונן פרמטרים שונים למשימות פשוטות לעומת משימות היגיון מורכבות, אחרת איכות התוצאה תיפגע.

אותה משפחה

T-pro-it-2.0 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם המודל הזה מתאים לעבודה בעברית?

הכרטיס מצהיר על תמיכה בשפה הרוסית בלבד, ועליה בוצעו כל מבחני הביצועים והאימונים הנוספים. מודל הבסיס אמנם כולל יכולות רב לשוניות, אך אין עדות לשיפור או לתמיכה אמינה בעברית בגרסה הזו.

איך שולטים במצב החשיבה המעמיק שלו?

המעבר מתבצע באמצעות הדגל enable_thinking בטמפלייט של הטוקנייזר בספריות כמו SGLang או vLLM. בנוסף, חובה להתאים את הטמפרטורה, מ־0.3 ומטה לשאלות רגילות ועד 0.8 ומעלה לשאלות היגיון כבדות.

איך מריצים

כדי להריץ 33 מיליארד פרמטרים בדיוק bfloat16, הקבצים שוקלים לבדם 61.0 ג'יגה בייט. תצטרכו חומרה חזקה מאוד עם זיכרון וידאו ייעודי נרחב רק כדי לטעון אותו, עוד לפני חישוב ההקשר שיכול להגיע עד 40,960 טוקנים.

היוצרים ממליצים להרים שרת מבוסס SGLang עם מפענח ההסקה הייעודי של qwen3, ולשלוח אליו בקשות במבנה המוכר של OpenAI. חובה לשלוח בכל בקשה את ערכי הטמפרטורה ו־presence penalty לפי אופי המשימה כדי למנוע פלט שחוזר על עצמו.

from transformers import pipeline

pipe = pipeline("text-generation", model="t-tech/T-pro-it-2.0")
print(pipe("שלום"))

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0. מותר להשתמש בו לצרכים מסחריים, לשנות את הקוד והמשקולות ולהפיץ אותם בחינם או בתשלום. התנאי המרכזי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי, והמפתחים אינם מספקים אחריות על השימוש בתוצרים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗