finance-Llama3-8B

מה זה

הבסיס כאן הוא מודל של שמונה מיליארד פרמטרים, אבל במקום להסתפק באימון רגיל על טקסט גולמי, החוקרים יצרו זוגות של שאלות ותשובות מתוך חומרים כלכליים ואימנו אותו ישירות עליהם. הרעיון הוא לגרום למודל להבין הוראות וניתוחים פיננסיים כבר בשלב האימון המקדים, ולא רק בכוונון הסופי.

החוקרים מדווחים שבמשימות פיננסיות ספציפיות, השיטה הזו מאפשרת למודל של שמונה מיליארד פרמטרים להשתוות ואפילו לעקוף את הביצועים של המודל הגדול בסדרה שמחזיק שבעים מיליארד פרמטרים. בפועל זה אומר שאתם מקבלים רמת הבנה גבוהה של מונחים ודוחות כספיים במודל קל בהרבה, מה שחוסך משאבי מחשוב יקרים.

מתאים ל

• ניתוח דוחות באנגלית

  הוא מבין טרמינולוגיה עסקית מורכבת ברמה שמקבילה למודלים גדולים ממנו בהרבה.

• חילוץ מידע ממסמכים כלכליים

  אומן ישירות על שאלות ותשובות מתחום הפיננסים, מה שמקל על שליפת נתונים מדויקת.

• בסיס לכוונון פנימי בארגון

  נקודת מוצא מצוינת לפיין-טיונינג על דאטה פנימי של קרנות או בנקים באנגלית.

איפה זה נופל

זהו מודל בסיס שעבר אימון מקדים בלבד, לא מודל שיחה מכוונן. הוא לא יודע להתנהג כמו עוזר אישי, אין לו סינון מובנה לתשובות מסוכנות, והוא דורש ניסוח הנחיות מדויק. בנוסף, כל המידע והאימון נעשו באנגלית בלבד. אם תזרקו עליו דוחות של חברות ישראליות בעברית, הוא ייכשל. המפתחים עצמם אפילו לא שחררו את נתוני האימון הפיננסיים בגלל שיקולים אתיים, כך שאי אפשר לדעת בדיוק מאילו מקורות הוא למד.

איך מריצים

המשקל הכולל של הקבצים מגיע לכמעט שלושים גיגה בייט בדיוק המקורי. כדי להריץ אותו מקומית בלי כימות תצטרכו כרטיס מסך עם לפחות עשרים וארבעה גיגה זיכרון, כמו כרטיס מקצועי או דגם חזק מאוד למשתמשים ביתיים. אם תשתמשו בספריית transformers הרגילה, הקוד פשוט ומוכר, אבל צריך לשים לב שהמודל אומן רק עם טוקנים בסיסיים של התחלה וסוף בלי תבניות צ׳אט מורכבות.

אם אין לכם כרטיס מסך מתאים במשרד, ההרצה המקומית תזחל או תקרוס. במצב כזה, עדיף בהרבה להרים שרת ייעודי בענן לפי שעה או לשקול פתרון מנוהל, במיוחד אם אתם רק בודקים התאמה לפרויקט.

from transformers import pipeline

pipe = pipeline("text-generation", model="instruction-pretrain/finance-Llama3-8B")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 29.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00004-of-00007.safetensors5.0 GB
• model-00006-of-00007.safetensors5.0 GB
• model-00003-of-00007.safetensors5.0 GB
• model-00001-of-00007.safetensors4.9 GB
• model-00005-of-00007.safetensors4.8 GB
• model-00002-of-00007.safetensors4.8 GB
• model-00007-of-00007.safetensors2.6 GB
• tokenizer.json9.1 MB
• tokenizer_config.json50.6 KB
• model.safetensors.index.json23.9 KB
• README.md9.8 KB
• .gitattributes1.5 KB
• config.json705 B
• generation_config.json177 B
• special_tokens_map.json73 B

הרישיון

הרישיון הוא רישיון הקהילה של מטא למודלי לאמה שלוש. הוא מתיר שימוש מסחרי ומחקר, אבל מחייב עמידה במדיניות השימוש של מטא וכולל מגבלת משתמשים חודשית של מאות מיליונים לפני שנדרש אישור מיוחד. אם אתם מוכרים שירות לחברות, אתם כפופים לכל התנאים של מטא.

• שימוש מסחרי עד 700 מיליון משתמשים
• שינוי הקוד
• חובת ייחוס

הרישיון המלא בעמוד המודל ↗