helium-1-preview-2b

מה זה

מדובר במודל שפותח במקור עבור ריצה על חומרה מקומית או מובייל, עם דגש על אנגלית, צרפתית, גרמנית, איטלקית, פורטוגזית וספרדית. הוא אומן מראש על נתונים מוויקיפדיה, סטאק אקסצ'יינג', מאמרים מדעיים וקומון קרול. הוא מגיע כמודל בסיס ללא התאמת הנחיות, כך שאינו עונה כמו צ'אטבוט אלא בעיקר משלים טקסט.

במדדי ביצועים באנגלית הוא מציג ממוצע של 60.7, שזה פחות ממתחרים כמו לאמה 3.2 או ג'מה 2, אך מעל סמול-אל-אם 2. היתרון היחסי שלו מופיע בבדיקות רב לשוניות בשפות האירופאיות שנתמכות, שבהן הוא משתווה לג'מה 2 ועוקף את קוון 1.5B, במיוחד במבחני תרגום כמו פלורס.

מתאים ל

• בסיס לאימון מקומי

  מתאים למי שרוצה לבצע אימון עדין ייעודי למשימת ניסוח בשפות אירופאיות על חומרה צנועה.

• השלמת טקסט במכשירי קצה

  הגודל הקל מאפשר להריץ אותו ישירות על מחשבים אישיים עבור מחוללי טקסט מקומיים.

• מחקר ועיבוד שפה

  מספק בסיס פתוח לבדיקת התנהגות מודלים קטנים לפני שלב יישור ההעדפות האנושיות.

איפה זה נופל

הבעיה המרכזית היא היעדר כוונון להוראות. אם תתנו לו שאלה הוא עשוי פשוט להמשיך אותה במקום לענות עליה, והוא עלול לפלוט מידע שגוי או פוגעני. היוצרים מצהירים במפורש שלא כדאי לשלב אותו במוצר בלי אימון מכוון נוסף. בנוסף, עברית כלל לא נמצאת ברשימת השפות שבהן הוא אומן, כך שהוא לא מתאים למשימות בעברית, וחלון ההקשר מוגבל ל־4,096 טוקנים בלבד.

אותה משפחה

helium-1 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

טעינת המודל נעשית ישירות דרך ספריית הטרנספורמרס של פייתון, בפורמט bfloat16. מכיוון שמשקל הקבצים שלו הוא ארבעה גיגה בייט, הוא נכנס בקלות לזיכרון של כרטיס מסך בסיסי או מחשב פיתוח עם שמונה גיגה בייט של זיכרון גרפי, ואפילו לזיכרון מעבד סטנדרטי.

אם אתם צריכים תשובות מוכנות למשתמש קצה, שיחה או הבנת פקודות מורכבות, אין טעם להריץ אותו עצמאית. במקרה כזה עדיף לפנות למודלים מכוונני שיחה דרך ספק ענן, כי המודל הזה דורש אימון נוסף כדי לתפקד כממשק שיחה.

from transformers import pipeline

pipe = pipeline("text-generation", model="kyutai/helium-1-preview-2b")
print(pipe("שלום"))

הקבצים

7 קבצים במאגר, 4.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors4.3 GB
• tokenizer.json3.2 MB
• tokenizer_config.json18.8 KB
• README.md7.1 KB
• .gitattributes1.5 KB
• config.json661 B
• special_tokens_map.json3 B

הרישיון

הרישיון הוא CC-BY 4.0. זה רישיון פתוח שמתיר שימוש מסחרי, שינוי של המשקלים והפצה חופשית, כולל שילוב בתוך מוצר סגור. התנאי היחיד הוא מתן קרדיט מתאים ליוצרים ממעבדת קיוטאי.

• שימוש מסחרי
• שינוי הקוד
• חובת ייחוס

הרישיון המלא בעמוד המודל ↗