GPT
הוספת כלי
S

stablelm-base-alpha-3b

קוד פתוח

stabilityaicc-by-sa-4.02023-04-17

  • transformers
  • pytorch
  • gpt_neox
  • text-generation
  • causal-lm

מודל בסיס קטן יחסית שנבנה על דאטה של אנגלית וקוד עם הקשר ארוך. הוא מיועד למי שרוצה לאמן גרסה משלו על תשתית קומפקטית.

  • 4,096טוקנים בהקשר
  • 13.8 GBמשקל הקבצים
  • 1,477הורדות בחודש
  • 82לייקים

מה זה

מדובר במודל שפה מסוג בסיס עם שלושה מיליארד פרמטרים, שנבנה על ארכיטקטורת GPT-NeoX. הוא אומן על סט נתונים ניסיוני שמבוסס על The Pile והורחב לכדי 1.5 טריליון טוקנים, בדגש על שפה אנגלית וקטעי קוד.

היתרון שלו בזמן שיצא היה חלון הקשר של 4,096 טוקנים, שטח עבודה כפול ממה שהיה מקובל במודלים פתוחים בגודל דומה. הוא מייצר טקסט וקוד, אבל היות שהוא מודל בסיס שלא עבר אימון על הנחיות או התאמת שיחה, הוא פשוט משלים רצפים של טקסט ולא עונה כמו צ'אטבוט.

מתאים ל

  • אימון מותאם על קוד

    הוא ראה קוד כחלק מאימון של 1.5 טריליון טוקנים, מה שנותן נקודת פתיחה זולה למיקוד ייעודי.

  • השלמת טקסטים ארוכים

    חלון של 4,096 טוקנים במודל של שלושה מיליארד מאפשר לעבד מסמכים ארוכים בחומרה צנועה.

  • בסיס למחקר פנימי

    המשקל הקל שלו מתאים לבדיקת שיטות אימון וארכיטקטורה מקומית בלי עלויות שרתים ענקיות.

איפה זה נופל

היוצרים מציינים במפורש שהמודל הוחלף בגרסאות חדשות יותר בסדרה, ולכן הוא מיושן. מעבר לזה, המודל אומן רק על אנגלית, כך שאין מה לצפות לתוצאות סבירות בעברית. מאגר האימון שלו עדיין עלול להכיל תוכן פוגעני או בלתי הולם למרות הסינונים, והוא לא עבר שום התאמה של בטיחות או יישור להנחיות.

אותה משפחה

stablelm-base-alpha יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

stablelm-base-alpha-7b805 stablelm-base-alpha-7b-v2362

שאלות
נפוצות

האם המודל מבין וכותב בעברית?

לא. המודל אומן והוגדר רשמית עבור אנגלית בלבד. ניסיון להזין לו קלט בעברית ייצר פלט שבור או חסר משמעות לחלוטין.

אפשר להשתמש בו ישירות כעוזר אישי או צ'אט?

לא מומלץ בכלל. זהו מודל בסיס שלא עבר אימון על שיחות או מילוי הוראות, ולכן הוא רק ישלים את המשפט שתתחילו במקום לענות לשאלות שלכם.

איך מריצים

כדי להריץ אותו צריך ספריית transformers רגילה בפייתון. קבצי המודל שוקלים 13.8 גיגה בייט בדיוק float32, אבל בקוד המפרסמים ממליצים להמיר אותו לחצי דיוק כדי לחסוך זיכרון ולעלות על כרטיס מסך ביתי עם לפחות 8 עד 10 גיגה זיכרון.

אם אין לכם כרטיס מסך ייעודי מקומי, עדיף להשתמש במודל ענן דרך ספק צד שלישי או API. החישוב על מעבד רגיל יהיה אטי מאוד וכבד על הזיכרון של המחשב.

from transformers import pipeline

pipe = pipeline("text-generation", model="stabilityai/stablelm-base-alpha-3b")
print(pipe("שלום"))

הקבצים

10 קבצים במאגר, 13.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא CC BY-SA 4.0. אפשר להשתמש בו לצרכים מסחריים, אבל חובה לתת קרדיט ליוצרים, לציין אם בוצעו שינויים, והכי חשוב, כל נגזרת או מודל שתאמנו עליו חייבים להיות מופצים תחת אותו רישיון פתוח בדיוק.

  • שימוש מסחרי
  • שינוי הקוד
  • חובת שיתוף באותו רישיון

הרישיון המלא בעמוד המודל ↗