fingpt-forecaster_dow30_llama2-7b_lora
קוד פתוחFinGPTapache-2.02023-10-30
התאמת LoRA קטנה למודל בסיס פתוח, שמכוונת לניתוח ותחזיות על מניות מדד דאו ג'ונס. היא שוקלת עשרות מגה-בייט בודדים ומתלבשת ישירות על תשתית קיימת של מודל שבעה מיליארד פרמטרים.
- 76.5 MBמשקל הקבצים
- 368הורדות בחודש
- 155לייקים
מה זה
מדובר במתאם LoRA שפותח במסגרת פרויקט FinGPT על גבי Llama 2 7B Chat. הוא אומן ספציפית על נתונים פיננסיים שקשורים לשלושים החברות במדד Dow Jones, במטרה לתת מענה לשאלות תחזית וניתוח שוק באנגלית. במקום לנסות ללמד מודל חדש מאפס, לקחו משקלים מאומנים מראש והוסיפו שכבה צרה שמתמקדת במינוח ובמבנה התשובות של התחום הפיננסי.
ההבדל העיקרי מול שימוש במודל שפה כללי הוא המיקוד. מודל כללי ינסה לענות על שאלות כלכליות מתוך ידע מעורב, בעוד שהאימון כאן מכוון ישירות למתודולוגיה של פרויקט FinGPT_Forecaster. החבילה עצמה שוקלת כ־76.5 מגה-בייט בלבד, כך שלא מורידים כאן משקלים מלאים אלא שכבת התאמה בלבד.
מתאים ל
- ניתוח מניות מדד דאו ג'ונס
התאמת LoRA אומנה ישירות על נתוני חברות המדד, ומספקת ניתוח ממוקד באנגלית לפי מתודולוגיית FinGPT.
- פיתוח יישומי מחקר פיננסי
משתלב בקלות בתוך צינור עיבוד נתונים קיים של שוק ההון האמריקאי, בלי צורך לשלם על מודלים סגורים.
- ניסויי תחזיות מקומיים
שוקל 76.5 מגה-בייט בלבד ורץ מקומית על גבי שרת ארגוני, בלי להוציא נתונים רגישים החוצה.
איפה זה נופל
המתאם מוגבל מראש לחברות מדד Dow Jones ובשפה האנגלית בלבד, כך שאין מה לבנות עליו לניתוח של מניות מקומיות בתל אביב או טקסטים בעברית. מעבר לכך, בעמוד המודל אין מדדי ביצועים, בנצ'מרקים או תוצאות דיוק מספריות, וצריך לבדוק לעומק את המאגר בגיטהאב כדי להבין איך בדיוק הפיקו את התחזיות. מודלי שפה נוטים להמציא עובדות בביטחון מלא, ולכן שימוש בפלט כזה לקבלת החלטות מסחר אמיתיות בלי בדיקה ידנית הוא סיכון מיותר.
שאלות
נפוצות
האם הקובץ הזה מספיק כדי להריץ את המודל לבד?
לא. מדובר במשקלי LoRA בלבד, ששוקלים כ־76.5 מגה-בייט. חייבים להוריד בנפרד את מודל הבסיס Llama-2-7b-chat-hf ולהרכיב את המתאם עליו באמצעות PEFT.
האם המודל מבין דוחות כספיים בעברית?
לא, המודל אומן על אנגלית בלבד ומכוון למניות אמריקאיות. הוא לא מותאם לדיווחים מקומיים של הבורסה לניירות ערך בתל אביב או לטקסט פיננסי בעברית.
איך מריצים
כדי להריץ אותו בפועל צריך קודם כל לטעון את Llama-2-7b-chat-hf של Meta, ורק אז להרכיב עליו את המתאם הזה בעזרת ספריית PEFT. מבחינת חומרה, צריך כרטיס מסך שמסוגל להחזיק את מודל הבסיס, לרוב מאיץ עם 16 גיגה-בייט זיכרון גרפי בפורמט חצי דיוק (float16) יספיק לעבודה שוטפת.
אם יש לכם כבר תשתית מוכנה למודלי שבעה מיליארד פרמטרים, ההרצה פשוטה מאוד ולא דורשת משאבים מעבר למודל הבסיס. אם אין לכם חומרה ייעודית מקומית או שאתם מחפשים רק בדיקה מהירה, יהיה זול ופשוט יותר להרים שרת ענן לפי שעה או להשתמש ב־API של ספק שרתים חיצוני מאשר לקנות חומרה במיוחד.
pip install -U huggingface_hub hf download FinGPT/fingpt-forecaster_dow30_llama2-7b_lora
הקבצים
5 קבצים במאגר, 76.5 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הרישיון המוצהר הוא Apache 2.0, שמאפשר שימוש מסחרי, שינוי והפצה חופשית בקוד פתוח. יחד עם זאת, המתאם דורש הרצה על גבי מודל הבסיס של Llama 2, ולכן תנאי השימוש וההגבלות המסחריות של מטא חלים על המוצר הסופי שתריצו.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים