Hunyuan-1.8B-Instruct
קוד פתוחtencentרישיון לא דווח2025-07-30
דגם קומפקטי של טנסנט שמביא חלון הקשר ענק של 256 אלף טוקנים ומצב חשיבה אטית למכשירים מקומיים. הוא מתאים למי שחייב לעבד מסמכים ארוכים על חומרה ביתית פשוטה.
- 1.8Bפרמטרים
- 262,144טוקנים בהקשר
- 3.3 GBמשקל הקבצים
- 518הורדות בחודש
מה זה
המודל מכיל 1.8 מיליארד פרמטרים ומשלב מנגנון חשיבה מובנה שמופעל כברירת מחדל, עם אפשרות לכיבוי דרך תגיות בטקסט. השילוב הזה מכוון לביצוע משימות ניתוח מורכבות של שלב אחר שלב, תוך שמירה על משקל קבצים צנוע של 3.3 גיגה בייט.
במבחני המתמטיקה של AIME 2024 גרסת ההוראות הזו הגיעה לציון 56.7, ובמבחן ההיגיון DROP ל־76.7. זה מראה יכולת הסקת מסקנות סבירה לגודל שלו, אבל בקידוד חי הוא נעצר סביב 31.5 נקודות ב־Livecodebench, מה שאומר שהוא מתקשה לייצר קוד מורכב ללא שגיאות.
היתרון המרכזי כאן הוא תמיכה מובנית בהקשר של 262,144 טוקנים לצד ארכיטקטורת GQA. רוב המודלים במשקל הזה נחנקים בהקשרים ארוכים, בעוד שכאן המטרה היא להחזיק טקסטים שלמים בלי לקרוס.
מתאים ל
- סיכום מסמכים במחשב מקומי
הוא מנתח טקסטים ארוכים על כרטיס מסך ביתי בזכות שילוב של משקל 3.3 גיגה וחלון הקשר גדול.
- פתרון בעיות היגיון ושלבים
מצב החשיבה האיטית המובנה מאפשר לו לפרק שאלות מורכבות בלי צורך בהנדסת פרומפטים מיוחדת.
- סוכן אוטונומי לפעולות פשוטות
ציון 58.3 בבנצ'מרק BFCL מראה שהוא יודע להפעיל פונקציות בסיסיות ביעילות יחסית לגודלו.
איפה זה נופל
למרות ההבטחה לחלון הקשר עצום, במבחן longbench-v2 המודל מקבל ציון נמוך של 33.2 בלבד, כך שלא כדאי לסמוך על שליפה מדויקת של פרטים מתוך מאות עמודי טקסט. במבחן השאלות הכלליות simpleQA הוא מגרד 3.61 נקודות בגרסת הבסיס, מה שמצביע על נטייה להזיות בידע כללי. בנוסף, המודל אינו כולל הנחיית מערכת כברירת מחדל, ודורש שימוש בגרסת ענף ספציפית של ספריית transformers שטרם מוזגה במלואה.
אותה משפחה
Hunyuan יצא ב־5 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
איך מבטלים את מצב החשיבה הארוך כדי לקבל תשובות מהירות?
אפשר להוסיף את המחרוזת no_think לפני הפרומפט, או להגדיר את הפרמטר enable_thinking כשקרי בזמן קריאת התבנית בספריית transformers. זה מדלג על שלבי הביניים וחוסך זמן יצירה.
האם כדאי להשתמש בו לכתיבת קוד?
לא מומלץ למשימות פיתוח רציניות. המודל השיג ציון של 31.5 בלבד במבחן Livecodebench, מה שמעיד על הבנה מוגבלת של לוגיקת תכנות מורכבת.
איך מריצים
בגלל גודל של 3.3 גיגה בייט בלבד בדיוק bfloat16, אפשר להריץ אותו מקומית על כמעט כל כרטיס מסך צרכני מודרני עם 6 או 8 גיגה זיכרון. המפתחים מספקים תמיכה בתשתיות כמו vLLM, TensorRT-LLM ו־SGLang, וגם אפשרויות קוונטיזציה של FP8 ו־INT4 דרך כלי ייעודי בשם AngelSlim.
אם אתם מתכננים להריץ פרומפטים שמנצלים את מלוא חלון ה־256K, זיכרון ה־KV יתנפח במהירות ויחייב כרטיס חזק בהרבה. במצב כזה, עדיף להשתמש ב־API של טנסנט במקום לנסות להחזיק שרתים יקרים משלכם.
from transformers import pipeline
pipe = pipeline("text-generation", model="tencent/Hunyuan-1.8B-Instruct")
print(pipe("שלום"))הקבצים
13 קבצים במאגר, 3.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון של המודל לא דווח בעמוד שלו, למרות שקיים קישור לקובץ חיצוני בגיטהאב. במצב הזה לא ידוע אם מותר להשתמש בו לצרכים מסחריים, מה שמייצר סיכון משפטי ברור לכל מי שרוצה לשלב אותו במוצר אמיתי.