finance-LLM

מה זה

היוצרים לקחו את הדגם המקורי של שבעה מיליארד פרמטרים והמשיכו את האימון שלו על טקסטים פיננסיים, בשיטה שהופכת קורפוס גולמי לפורמט של הבנת הנקרא. המטרה היתה לפתור את הבעיה המוכרת שבה אימון המשך שוחק את יכולת המענה להנחיות, וכאן הטענה היא שהשיטה שמרה על היכולת הזו בדיוק במשימות של שאלות ותשובות.

לפי המפתחים, הגרסה הזו מגיעה לביצועים שמתחרים במודלים ייעודיים עצומים כמו בלומברג ג׳יפיטי שמחזיק בחמישים מיליארד פרמטרים. המשמעות בפועל היא שאפשר לקבל יכולת הבנה פיננסית סבירה ממודל קטן יחסית, אבל חשוב לזכור שמדובר בדגם בסיס ישן שאינו מיושר לשיחה חופשית.

מתאים ל

• ניתוח דוחות באנגלית

  מענה על שאלות מתוך טקסטים פיננסיים ארוכים באנגלית בעזרת שיטת הבנת הנקרא.

• סיווג סנטימנט כלכלי

  זיהוי מגמות ורגשות בכותרות וידיעות עסקיות לפי הדאטהסטים שבהם נבדק.

• מחקר והשוואת מודלים

  בדיקת יעילות שיטת האימון מול מודלים רחבים ללא עלויות תשתית מנופחות.

איפה זה נופל

זהו מודל בסיס ישן באנגלית בלבד, כך שאין מה לצפות ממנו לעבודה בעברית או להבנה של הרגולציה והשוק הישראלי. בנוסף, הוא אינו מכוון שיחה, ולכן הוא לא יתנהג כמו צ׳אטבוט מוכר אלא ידרוש תבניות פרומפט ספציפיות כדי לפלוט תשובה הגיונית ולא סתם המשך טקסט עיוור.

אותה משפחה

finance-LLM יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

כדי להריץ אותו מקומית צריך כרטיס מסך עם לפחות שישה עשר ג׳יגה זיכרון וידאו אם עובדים ברמת דיוק מלאה, או פחות מזה אם מכווצים אותו. מדובר במשקל הורדה חריג של כמעט חמישים ג׳יגה שמפוזר על שבעים ושישה קבצים, כך שההורדה הראשונית תיקח זמן ותדרוש לא מעט מקום דיסק.

היוצרים עצמם מציינים שאם המטרה היא צ׳אט עם משתמשים, עדיף לעבור לגרסת השיחה שלהם שמבוססת על למה 2, או להשתמש ב־API מסחרי עדכני במקום להסתבך עם הפרומפטים הקשיחים שדגם הבסיס הזה דורש.

from transformers import pipeline

pipe = pipeline("text-generation", model="AdaptLLM/finance-LLM")
print(pipe("שלום"))

הקבצים

76 קבצים במאגר, 49.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model-00001-of-00033.bin809.5 MB
• pytorch_model-00002-of-00033.bin809.5 MB
• pytorch_model-00003-of-00033.bin809.5 MB
• pytorch_model-00004-of-00033.bin809.5 MB
• pytorch_model-00005-of-00033.bin809.5 MB
• pytorch_model-00006-of-00033.bin809.5 MB
• pytorch_model-00007-of-00033.bin809.5 MB
• pytorch_model-00008-of-00033.bin809.5 MB
• pytorch_model-00009-of-00033.bin809.5 MB
• pytorch_model-00010-of-00033.bin809.5 MB
• pytorch_model-00011-of-00033.bin809.5 MB
• pytorch_model-00012-of-00033.bin809.5 MB
• pytorch_model-00013-of-00033.bin809.5 MB
• pytorch_model-00014-of-00033.bin809.5 MB
• pytorch_model-00015-of-00033.bin809.5 MB
• pytorch_model-00016-of-00033.bin809.5 MB
• pytorch_model-00017-of-00033.bin809.5 MB
• pytorch_model-00018-of-00033.bin809.5 MB
• pytorch_model-00019-of-00033.bin809.5 MB
• pytorch_model-00020-of-00033.bin809.5 MB
• pytorch_model-00021-of-00033.bin809.5 MB
• pytorch_model-00022-of-00033.bin809.5 MB
• pytorch_model-00023-of-00033.bin809.5 MB
• pytorch_model-00024-of-00033.bin809.5 MB
• pytorch_model-00025-of-00033.bin809.5 MB
• pytorch_model-00026-of-00033.bin809.5 MB
• pytorch_model-00027-of-00033.bin809.5 MB
• pytorch_model-00028-of-00033.bin809.5 MB
• pytorch_model-00029-of-00033.bin809.5 MB
• pytorch_model-00030-of-00033.bin809.5 MB
• pytorch_model-00031-of-00033.bin809.5 MB
• pytorch_model-00032-of-00033.bin809.5 MB
• model-00011-of-00033.safetensors809.5 MB
• model-00012-of-00033.safetensors809.5 MB
• model-00013-of-00033.safetensors809.5 MB
• model-00014-of-00033.safetensors809.5 MB
• model-00015-of-00033.safetensors809.5 MB
• model-00016-of-00033.safetensors809.5 MB
• model-00017-of-00033.safetensors809.5 MB
• model-00018-of-00033.safetensors809.5 MB

הרישיון

היוצרים לא ציינו רישיון מפורש במאגר. מעבר לכך, המודל מתבסס על למה 1 המקורי של מטא, שלא שוחרר ברישיון מסחרי חופשי, כך שלא הייתי מעז לשלב אותו במוצר מסחרי פעיל מחשש להפרת זכויות.

הרישיון המלא בעמוד המודל ↗