japanese-stablelm-base-alpha-7b

מה זה

המודל הזה הוא מודל שפה גנרטיבי ממשפחת NeoX, שאומן על כ־750 מיליארד טוקנים מטקסטים ביפנית ובאנגלית. המטרה של המפתחים הייתה לייצר תשתית חזקה למשימות עיבוד שפה ביפנית, שבהן מודלים כלליים באותו גודל מתקשים בגלל מחסור בחומרי אימון מתאימים.

במקום להשתמש בטוקנייזר רגיל שלעיתים מפרק מילים ביפנית להמון חלקים קטנים ומאט את הריצה, שילבו כאן את הטוקנייזר של NovelAI. הבחירה הזו מיועדת לייעל את הטיפול במקביל ביפנית ובאנגלית, מה שנותן יתרון בתהליכי אימון והסקה של טקסט מעורב.

מדובר במודל בסיס בלבד, ולא במודל צ'אט שמגיב להוראות מהקופסה. הוא ממשיך רצפי טקסט, ולכן אין מה לצפות ממנו לנהל שיחה קולחת בלי שתבצעו עליו כוונון עדין למשימה שלכם או שתעברו לגרסת ההוראות הנפרדת שלו.

מתאים ל

• אימון מודל ייעודי ביפנית

  בסיס מצוין לכוונון עדין למשימות עסקיות ביפן בזכות אימון רחב על 750 מיליארד טוקנים.

• השלמת טקסטים מעורבים

  הטוקנייזר המובנה מטפל ביעילות בשילוב של יפנית ואנגלית ללא ניפוח טוקנים.

• מחקר על ארכיטקטורת NeoX

  משקלים פתוחים ברישיון חופשי שמתאימים לניתוח התנהגות מודלים בגודל 7B.

איפה זה נופל

היוצרים מבהירים שמאגר האימון הכיל תוכן פוגעני או בלתי הולם שלא סונן במלואו, ולכן המודל עלול לפלוט ביטויים בעייתיים. חלון ההקשר מוגבל ל־2,048 טוקנים, מה שמקשה על עיבוד מסמכים ארוכים. הוא לא מבין עברית ואינו מיועד למענה ישיר למשתמשי קצה ללא סינון וכוונון מוקדם.

איך מריצים

המשקל הכולל של הקבצים מגיע ל־46.2 ג'יגה־בייט בדיוק של float32. כדי לטעון אותו כמו שהוא צריך כרטיס גרפי מקצועי עם זיכרון משמעותי, או להמיר אותו לחצי דיוק כדי להסתפק בחומרה נגישה יותר.

הריצה דורשת התקנה של ספריות sentencepiece ו־einops יחד עם transformers. אם המטרה היא מענה מהיר להוראות ולא אימון עצמי, קריאה ל־API חיצוני של מודל קיים תחסוך את כאב הראש של תחזוקת השרתים.

from transformers import pipeline

pipe = pipeline("text-generation", model="stabilityai/japanese-stablelm-base-alpha-7b")
print(pipe("שלום"))

הקבצים

17 קבצים במאגר, 46.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model-00002-of-00003.bin10.0 GB
• pytorch_model.fp16-00001-of-00002.bin10.0 GB
• pytorch_model-00001-of-00003.bin10.0 GB
• pytorch_model-00003-of-00003.bin8.1 GB
• pytorch_model.int8.bin7.6 GB
• pytorch_model.fp16-00002-of-00002.bin4.0 GB
• japanese-stablelm-parrot.jpg117.6 KB
• modeling_japanese_stablelm_alpha.py29.3 KB
• pytorch_model.bin.index.fp16.json25.4 KB
• pytorch_model.bin.index.json24.1 KB
• README.md7.2 KB
• configuration_japanese_stablelm_alpha.py5.7 KB
• .gitattributes1.6 KB
• config.json972 B
• generation_config.json111 B
• requirements.txt21 B
• .gitignore11 B

הרישיון

הרישיון הוא Apache 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות אותו ולשלב אותו במוצרים סגורים. התנאים העיקריים הם שמירה על הודעת זכויות היוצרים והרישיון המקורי, בלי אחריות מצד המפתחים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗