GPT
הוספת כלי
Y

Youtu-LLM-2B-Base

קוד פתוח

tencentother2025-12-31

  • transformers
  • safetensors
  • youtu
  • text-generation
  • endpoints_compatible

מודל בסיס קטן עם 1.96 מיליארד פרמטרים וחלון ענק של 128 אלף טוקנים. הוא מיועד למי שמחפש נקודת מוצא זולה לאימון סוכנים או משימות קוד.

  • 2Bפרמטרים
  • 131,072טוקנים בהקשר
  • 3.7 GBמשקל הקבצים
  • 2,591הורדות בחודש

מה זה

מדובר במודל שפה מסוג Causal LM שפותח במעבדות Youtu של Tencent, בנוי ברוח מודלים קלים עם ארכיטקטורת Dense MLA ו־32 שכבות. הדגש העיקרי שלו הוא יכולות מובנות למשימות סוכנים והקשר ארוך מאוד, תחומים שלרוב דורשים מודלים כבדים בהרבה כדי להוציא תוצאה הגיונית.

במבחני ביצועים הוא מציג מספרים יוצאי דופן לגודלו. במבחני קוד כמו HumanEval הוא מקבל 64.6% ומנצח אפילו מודלים גדולים ממנו כמו Qwen3-4B או Llama-3.1-8B, וגם ב־MMLU-Pro הוא מגיע ל־48.4%. עם זאת, חשוב לזכור שזהו מודל בסיס ולא גרסה שעברה כוונון להוראות, כך שהוא פולט השלמות טקסט סטטיסטיות ולא מנהל שיחה ישירה עם המשתמש.

מתאים ל

  • בסיס לאימון סוכני קוד

    הוא מציג 64.6% ב־HumanEval, תוצאה חריגה לגודל של 2B שמתאימה מאוד ל־fine-tuning ייעודי.

  • אימון מקומי בעלות נמוכה

    עם משקל של 3.7 גיגה-בייט ותמיכה ב־LlamaFactory, אפשר לאמן אותו על כרטיס מסך בודד וזול.

  • ניתוח מסמכים טכניים ארוכים

    חלון של 131,072 טוקנים מאפשר להזין ספריות קוד או תיעוד נרחב בלי לחתוך מידע.

איפה זה נופל

זהו מודל בסיס בלבד, ולכן אם תתנו לו שאלה פשוטה הוא עלול להמשיך אותה במקום לענות עליה. הוא לא עבר יישור ערכים או אימון RLHF, ואתם לא יכולים להטמיע אותו מול לקוחות קצה בלי תהליך של fine-tuning מקדים. בנוסף, במבחני שליפה מהקשר ארוך כמו NIAH הוא מגיע ל־98.8%, שזה מעט נמוך ממתחרים כמו Gemma3 שמגיעים ליותר מ־99.5%, ובמשימות סוכנים מורכבות הוא עדיין מפסיד ל־Qwen3-4B ברוב הקטגוריות.

אותה משפחה

Youtu-LLM יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Youtu-LLM-2B10,825

שאלות
נפוצות

האם המודל הזה מתאים לשיחה וצ'אט ישר מהקופסה?

לא. זו גרסת בסיס שמיועדת להשלמת טקסט ולא למענה על שאלות. לשימוש כזה עדיף להוריד את גרסת ה־Instruct או ה־GGUF שהמפתחים פרסמו במקביל.

איזו חומרה אני צריך כדי לעבוד איתו?

המודל שוקל 3.7 גיגה-בייט בלבד. כרטיס מסך ביתי עם 8 גיגה זיכרון יספיק בקלות להרצה, ואפילו ל־fine-tuning בסיסי עם LoRA.

איך הביצועים שלו בהשוואה למודלים גדולים יותר?

במבחני קומונסנס וקוד כמו MMLU-Pro ו־HumanEval הוא עוקף מודלים כמו Llama-3.1-8B. עם זאת, במבחני שימוש בכלים הוא עדיין נופל ממודלים של 4B כמו Qwen3.

איך מריצים

המשקל הכולל של הקבצים עומד על 3.7 גיגה-בייט, מה שאומר שאפשר לטעון אותו בקלות על כרטיס מסך צרכני פשוט או אפילו על זיכרון של מחשב נייד. המודל נתמך ישירות בספריית transformers מגרסה 5.1.0 ומעלה, וקיים לו גם תמיכה בכלי אימון פופולריים כמו LlamaFactory ו־ModelScope.

למי שלא מתכנן לאמן אותו בעצמו, עדיף לדלג ישר לגרסת ה־Instruct או לקבצי ה־GGUF ש־Tencent שחררו במקביל, או לפנות ל־API חיצוני אם המטרה היא לקבל צ'אט מוכן בלי להתעסק בתשתיות.

from transformers import pipeline

pipe = pipeline("text-generation", model="tencent/Youtu-LLM-2B-Base")
print(pipe("שלום"))

הקבצים

11 קבצים במאגר, 3.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון מוגדר כ־other ומפנה לקובץ נפרד במאגר. המשמעות היא שלא מדובר ברישיון קוד פתוח מוכר וסטנדרטי כמו Apache או MIT, ולכן אי אפשר להניח אוטומטית שמותר להשתמש בו במוצר מסחרי. לפני שמשלבים אותו בפיתוח, חובה לקרוא את קובץ התנאים המדויק שהחברה צירפה.

הרישיון המלא בעמוד המודל ↗