galactica-125m

מה זה

מדובר בגרסת המיני של משפחת גלקטיקה מבית מטא וצוות Papers with Code, שכוללת מודלים מנפח כזה ועד 120 מיליארד פרמטרים. המודל בנוי על ארכיטקטורת OPT דקודר בלבד, ועבר אימון על 106 מיליארד טוקנים של ספרות מדעית, ספרי לימוד, אנציקלופדיות ומאגרי מידע. המטרה שלו היא לא שיחה כללית, אלא התמודדות עם שפה מדעית, כולל מונחים, נוסחאות וחיזוי ציטוטים.

בגודל כזה של 125 מיליון פרמטרים, קשה לצפות להבנה עמוקה או ליכולת ניסוח מורכבת כמו של מודלים מודרניים גדולים. מה שמייחד אותו לעומת מודלים כלליים באותו סדר גודל הוא החשיפה הממוקדת למבנים מדעיים, מאמרים וכימיה כבר משלב הטוקניזציה. הוא מיועד בעיקר כבסיס קל משקל למחקר ולניסויים על מידע אקדמי.

מתאים ל

• פיתוח כלי עזר למחקר

  משמש לבדיקת תהליכי עיבוד טקסט מדעי על חומרה מקומית חלשה.

• חיזוי ציטוטים ראשוני

  מציע מקורות ומאמרים רלוונטיים מתוך היכרות עם מבנה הכתיבה האקדמי.

• ניסויי NLP על מאמרים

  מאפשר לבחון חילוץ ישויות וסיווג מונחים מדעיים ללא עלויות תשתית.

איפה זה נופל

היוצרים מזהירים במפורש מהזיות, והאימון על חומר אקדמי לא מונע ממנו להמציא עובדות, במיוחד בנושאים פחות מוכרים או מצוטטים. אין שום ערובה לאמיתות התוכן שהוא מייצר. כשמבקשים ממנו ציטוטים, הוא נוטה להציג הטיות פופולריות ומעדיף מקורות מוכרים על פני התאמה מדויקת. מודל בגודל 125 מיליון פרמטרים לא מסוגל להחזיק היגיון מתמטי אמין בפני עצמו, ואסור להסתמך עליו במוצר פעיל ללא שכבות אימות ובקרה קפדניות.

אותה משפחה

galactica יצא ב־5 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הכולל של הקבצים עומד על פחות מחצי ג'יגה, כך שהוא רץ בלי בעיה על מעבד פשוט בכל מחשב נייד דרך ספריית transformers הרגילה בפייתון. אין צורך בכרטיס מסך ייעודי כדי להתחיל לעבוד איתו, אם כי אפשר להעלות אותו לכרטיס מסך בפורמט FP16 או INT8 עם ספריית bitsandbytes כדי להאיץ את התגובה.

אם אתם צריכים תוצאות איכותיות למחקר מעשי, עדיף להסתכל על הגרסאות הגדולות יותר במשפחה כמו 6.7B או 30B, או לפנות ל־API חיצוני חזק. הגרסה הזו מתאימה בעיקר לבדיקת קוד מקומית, אימות תהליכים ובניית אבי טיפוס זריזים על המחשב האישי בלי שרתים ייעודיים.

from transformers import pipeline

pipe = pipeline("text-generation", model="facebook/galactica-125m")
print(pipe("שלום"))

הקבצים

9 קבצים במאגר, 479 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model.bin250.1 MB
• model.safetensors250.1 MB
• tokenizer.json2.1 MB
• README.md7.7 KB
• .gitattributes1.5 KB
• config.json787 B
• tokenizer_config.json166 B
• generation_config.json137 B
• special_tokens_map.json3 B

הרישיון

הרישיון הוא CC BY-NC 4.0, מה שאומר שהוא מיועד אך ורק למחקר ולשימוש לא מסחרי, תוך מתן קרדיט ליוצרים. אי אפשר לשלב אותו במוצר שמייצר הכנסה, בחברה מסחרית או בכל שירות בתשלום בלי להפר את תנאי הרישיון.

• שינוי הקוד
• חובת ייחוס
• שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗