GPT
H

Hunyuan-MT-7B

קוד פתוח

tencentרישיון לא דווח2025-08-28

  • transformers
  • safetensors
  • hunyuan_v1_dense
  • text-generation
  • translation

מודל תרגום ייעודי בגודל 8 מיליארד פרמטרים שמתמקד בביצועים נקודתיים בין עשרות שפות. הוא מיועד למי שצריך תרגום ישיר מקומי ברמה תחרותית בלי להחזיק מודל ענק.

  • 8Bפרמטרים
  • 32,768טוקנים בהקשר
  • 15.0 GBמשקל הקבצים
  • 2,610הורדות בחודש

מה זה

מדובר במודל שפותח על ידי טנסנט כחלק ממשפחת מודלים לתרגום מכונה, עם ארכיטקטורה צפופה וחלון הקשר של 32,768 טוקנים. הוא תומך בהדדיות בין עשרות שפות, כולל עברית, ערבית, שפות אסייתיות ואירופיות, לצד שפות מיעוטים בסין. האימון שלו עבר מסלול ייעודי שכלל אימון מקדים חוצה שפות, כוונון עדין למשימות תרגום ושלבי שיפור ייעודיים.

לפי נתוני היוצרים, המודל הגיע למקום הראשון ב־30 מתוך 31 קטגוריות שפה שבהן התחרה בתחרות WMT25. זה מראה על התמקדות חריגה באיכות הטקסט המתורגם ביחס לגודל של שמונה מיליארד פרמטרים, במקום פיזור כוחות על משימות כלליות של צ'אט או כתיבת קוד.

מתאים ל

  • תרגום מסמכים פנימי

    הרצה מקומית בתוך ארגון שרוצה לתרגם טקסטים בין עברית, אנגלית ושפות אחרות בלי שמידע רגיש ייצא החוצה לענן.

  • לוקליזציה של תוכן טקסטואלי

    המרת כמויות גדולות של מחרוזות ותוכן בין שפות שונות, תוך שימוש בהגדרות דגימה קבועות ופלט ללא שום הסברים מיותרים.

  • צינור עיבוד רב-לשוני

    שילוב המודל כשלב מקדים שמנרמל ומעביר קלטים מגוונים לשפה אחידה לפני הזנה למודלים אחרים במערכת.

איפה זה נופל

המודל מיועד אך ורק למשימת תרגום, ואינו כולל פרומפט מערכת מובנה או יכולות שיחה וניתוח כלליות. אם תנסו לבקש ממנו משימות יצירתיות או ניסוח חופשי, הוא פשוט לא נבנה עבורן.

למרות שעברית מופיעה ברשימת השפות הנתמכות, הכרטיס אינו מפרט את תוצאות המדידה הנפרדות עבורה ביחס לתחרויות WMT25, שבהן הדגש היה על צמדי שפות ספציפיים. חובה לבדוק אותו על מאגר נתונים עברי אמיתי לפני שמשלבים אותו בזרימת עבודה.

שאלות
נפוצות

האם המודל יודע לענות על שאלות כלליות בצ'אט?

לא. הארכיטקטורה והכוונון שלו הותאמו אך ורק לקבלת טקסט בשפת מקור ותרגומו לשפת יעד. הוא מצפה לפרומפטים במבנה מדויק ולא מיועד לנהל שיחות או להחזיר תשובות מנומקות.

מה ההבדל בינו לבין גרסת ה־Chimera שמוזכרת בדף?

המודל הנוכחי מבצע את פעולת התרגום הישירה משפה לשפה. גרסת Chimera היא מודל אנסמבל שתפקידו לקחת מספר תרגומים שונים של אותו המשפט ולאחד אותם לתוצאה אחת מזוקקת ואיכותית יותר.

איך צריך לקנפג את הפרמטרים של ההרצה?

היוצרים ממליצים להריץ אותו עם טמפרטורה של 0.7, ערך top_k של 20, ערך top_p של 0.6 ועונש על חזרתיות ברמה של 1.05, בלי להגדיר פרומפט מערכת כלל.

איך מריצים

כדי להריץ אותו במשקלי bfloat16 צריך כרטיס מסך עם לפחות 16 עד 24 גיגה זיכרון, שכן המשקלים לבדם תופסים 15 גיגה ב־12 קבצים. ההרצה נעשית דרך ספריית transformers מגרסה 4.56.0 ומעלה, עם תבניות פרומפט מוגדרות מראש שדורשות פלט נקי בלי הסברים נוספים. קיימת גם גרסת fp8 לחסכון בזיכרון, אך היא דורשת התאמות ידניות קלות בקובץ ההגדרות ועדכון ספריות דחיסה.

אם יש לכם צורך בתרגום שוטף בהיקף נמוך או חומרה מוגבלת בלי מעבד גרפי מתאים, פנייה לשירותי תרגום מנוהלים תהיה פשוטה בהרבה. המודל הזה משתלם בעיקר למי שרוצה להריץ שרת תרגום עצמאי בארגון או לעבד נפחים גדולים מקומית.

from transformers import pipeline

pipe = pipeline("translation", model="tencent/Hunyuan-MT-7B")
print(pipe("שלום"))

הרישיון

הרישיון של המודל לא דווח בעמוד שלו. המשמעות ברורה: אסור להניח שמותר להשתמש בו במוצר מסחרי, ואין שום ודאות משפטית לגבי הפצה, הטמעה באפליקציות או שימוש פנימי בחברות, עד שטנסנט יפרסמו תנאי שימוש רשמיים.

הרישיון המלא בעמוד המודל ↗