GPT
T

timer-base-84m

קוד פתוח

thumlapache-2.02024-11-23

  • timer
  • safetensors
  • time series
  • time-series
  • forecasting

מודל חיזוי סדרות עתיות של 84 מיליון פרמטרים שרץ בזיכרון מינימלי. הוא פותר את הצורך לאמן מודל ייעודי מאפס ומספק תחזיות נקודתיות בשיטת zero-shot.

  • 84Mפרמטרים
  • 10,000טוקנים בהקשר
  • 321 MBמשקל הקבצים
  • 4,586הורדות בחודש

מה זה

במקום להתעסק בהתאמת מודלים סטטיסטיים ישנים או אימון רשתות כבדות לכל דאטהסט בנפרד, מקבלים כאן ארכיטקטורת Decoder-only של טרנספורמר שאומנה מראש על 260 מיליארד נקודות זמן. המודל מתמקד בסדרות חד-ממדיות בלבד וניגש למשימה כמו שמודל שפה ניגש לטקסט. הוא קורא היסטוריה של נתונים ומייצר את ההמשך באופן גנרטיבי.

המבנה הפנימי מחלק את המידע למקטעים באורך 96 נקודות על פני 8 שכבות. הגודל הקומפקטי שלו, רק 321 מגה-בייט, הופך אותו לחלופה קלה ומהירה למערכות כבדות יותר כשצריך תחזית ישירה בלי תהליך למידה מקדים.

מתאים ל

  • חיזוי עומסים בשרתים

    ניטור מטריקה בודדת של שימוש במעבד או זיכרון וחיזוי חריגות 96 צעדים קדימה ישירות מקלט השרת.

  • חיזוי צריכת חשמל

    ניתוח היסטוריית קריאות של מונה בודד ללא צורך בהגדרת משתנים חיצוניים או אימון מודל מקומי.

  • בדיקות מהירות ב־Edge

    הרצה מקומית על מעבדים פשוטים וחומרה קלת משקל בזכות נפח קבצים נמוך של 321 מגה-בייט.

איפה זה נופל

הבעיה המרכזית היא שהמודל אומן על סדרות חד-ממדיות בלבד. אם יש לכם מדדים שתלויים במשתנים נוספים כמו טמפרטורה, מחיר ורוח בו-זמנית, הוא לא נועד לזה ולא יקבל אותם כקלט רב-ממדי.

מעבר לזה, המפתחים עצמם מודים בעמוד המודל שיש מקום רב לשיפור ומפנים למודל חדש יותר שלהם. החלון המעשי שמוצג בקוד מוגבל ל־2,880 צעדים אחורה עם חיזוי קדימה במקטעים של 96 נקודות, כך שאי אפשר לצפות ממנו להבין תלויות עונתיות ארוכות במיוחד ללא בדיקה מדוקדקת על הנתונים שלכם.

שאלות
נפוצות

האם אפשר להזין כמה עמודות נתונים במקביל?

לא. המודל אומן כמודל חד-ממדי, כלומר הוא מקבל סדרה אחת של ערכים לאורך זמן. אי אפשר להעביר לו טבלה מרובת מדדים כמו במודלים רב-משתניים.

מה המשמעות של מקטעים באורך 96?

המודל מנתח ומייצר נקודות זמן בבלוקים של 96. זה אומר שהחיזוי בנוי בקפיצות של האורך הזה, כפי שמוגדר בארכיטקטורה הפנימית שלו.

איך מריצים

אין שום סיבה לשלם על שירות חיצוני או API כדי לחזות סדרות עתיות בגודל כזה. 84 מיליון פרמטרים וקובץ של 321 מגה-בייט רצים בקלות על כל לפטופ מודרני, שרת פיתוח זול, ואפילו ישירות על המעבד בלי מאיץ גרפי בכלל.

ההרצה מתבצעת ישירות דרך ספריית transformers, אבל יש פה עניין טכני שמחייב תשומת לב. הקוד דורש Python 3.10 וגרסת transformers 4.40.1 ספציפית יחד עם הפעלת trust_remote_code כדי לטעון את הארכיטקטורה. אם חורגים מהגרסאות האלו, הטעינה עלולה להישבר.

pip install -U huggingface_hub
hf download thuml/timer-base-84m

הקבצים

8 קבצים במאגר, 321 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache-2.0, אחד החופשיים והנוחים ביותר לשימוש. מותר להשתמש בו במוצרים מסחריים, לשנות את הקוד ולהפיץ אותו ללא תשלום תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗