galactica-6.7b

מה זה

מטא אימנה את גלקטיקה על מאגר של 106 מיליארד טוקנים מטקסטים מדעיים, ספרי לימוד, אנציקלופדיות ומאגרי מידע. המבנה שלו מבוסס על מפענח טרנספורמר עם 32 שכבות וחלון הקשר של 2,048 טוקנים. הוא יודע לענות על שאלות מדעיות, לבצע היקשים מתמטיים, לסכם מאמרים, לנבא תכונות של מולקולות ולחזות מקורות ביבליוגרפיים.

בניגוד למודלים כלליים באותו סדר גודל שמפוזרים על כל האינטרנט, המיקוד כאן הוא ביצוע משימות עתירות ידע מדעי. לפי כרטיס המודל, הוא עוקף מודלים פתוחים אחרים במבחני ידע והיקש, וגם ברמות רעילות הוא נמוך יותר מרוב המודלים הגדולים, בעיקר בזכות המקורות האקדמיים שמהם הוא למד.

מתאים ל

• חיזוי ציטוטים למאמרים

  הוא למד לחבר בין רעיונות למקורות אקדמיים ישירות מתוך הטקסט.

• הסבר מושגים במתמטיקה וכימיה

  אומן ישירות על ספרי לימוד ונוסחאות מדעיות ולא רק על דפי רשת.

• חילוץ ישויות מטקסט מדעי

  מזהה שמות מולקולות, מונחים ורכיבי ניסוי ברמת דיוק טובה למחקר.

איפה זה נופל

המודל נוטה להזיות, ואימון על מאמרים לא פתר את זה. הוא ממציא עובדות מדעיות שנשמעות אמינות מאוד, במיוחד במונחים פחות מוכרים או פחות מצוטטים. בחיזוי ציטוטים יש לו נטייה מובהקת להעדיף מקורות פופולריים גם כשהם לא מתאימים. אסור להשתמש בפלטים שלו בסביבת ייצור בלי מנגנוני אימות אנושיים קפדניים.

אותה משפחה

galactica יצא ב־5 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקלים תופסים כמעט 13 גיגה בייט בקבצים של חצי דיוק. בשביל להריץ אותו בלי קוונטיזציה תצטרכו כרטיס מסך עם לפחות 16 גיגה זיכרון וידאו, אבל אפשר לטעון אותו ב־8 ביט דרך bitsandbytes ולחסוך מקום, או להריץ על המעבד אם אתם מוכנים לסבול זמני תגובה ארוכים.

במשפחה הזו יש גרסאות מ־125 מיליון פרמטרים ועד 120 מיליארד. גרסת ה־6.7B היא מדרגת האמצע הרשמית, שעדיין נכנסת בכרטיס מסך בודד של מפתחים. מי שאין לו חומרה מתאימה או רוצה לבדוק את הגרסאות הענקיות יצטרך לפנות לשרתים חיצוניים בענן.

from transformers import pipeline

pipe = pipeline("text-generation", model="facebook/galactica-6.7b")
print(pipe("שלום"))

הקבצים

10 קבצים במאגר, 12.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model-00001-of-00002.bin10.0 GB
• pytorch_model-00002-of-00002.bin3.8 GB
• tokenizer.json2.1 MB
• pytorch_model.bin.index.json45.1 KB
• README.md7.7 KB
• .gitattributes1.5 KB
• config.json794 B
• tokenizer_config.json166 B
• generation_config.json137 B
• special_tokens_map.json3 B

הרישיון

הרישיון הוא CC BY-NC 4.0, מה שאומר שימוש לא מסחרי בלבד. מותר לחקור אותו, לבדוק איתו רעיונות ולבנות עליו כלי מחקר פנימיים, אבל אי אפשר לשלב אותו במוצר שנמכר ללקוחות או מייצר הכנסה ישירה. בנוסף, חובה לתת קרדיט ליוצרים המקוריים.

• שינוי הקוד
• חובת ייחוס
• שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗