GPT
S

sundial-base-128m

קוד פתוח

thumlapache-2.02025-05-13

  • transformers
  • safetensors
  • sundial
  • text-generation
  • time series

מודל חיזוי זמנים קל משקל של 128 מיליון פרמטרים, שתופס פחות מחצי גיגה. הוא מייצר דגימות הסתברותיות ישירות מתוך סדרות עבר באפס אימון מראש.

  • 128Mפרמטרים
  • 10,000טוקנים בהקשר
  • 490 MBמשקל הקבצים
  • 41,156הורדות בחודש

מה זה

מדובר בארכיטקטורת Decoder-only שנבנתה ישירות למשימות חיזוי של סדרות עיתיות. המודל אומן על טריליון נקודות זמן ציבוריות מהרשת, וממיר רצפי ערכים רציפים לטוקנים בשיטת פאצ'ים של 16 נקודות. בשונה ממודלים שפולטים רק קו ממוצע בודד, המנגנון כאן משלב ייצוג אוטו-רגרסיבי עם שכבת זרימה שמתמירה רעש אקראי לתחזיות לא-דטרמיניסטיות.

הגישה הזו מאפשרת לחלץ מרווחי סמך, אחוזונים ותרחישים מרובים בריצה אחת. במבחני GIFT-Eval הוא הגיע למקום הראשון במדד MASE, ורשם תוצאות מובילות ב־MSE ו־MAE בביצועי zero-shot מול ספריות בדיקה מוכרות. היכולת הזו נותנת מענה ישיר לצורך בהערכת סיכונים בלי צורך בכיול מורכב של מודלים סטטיסטיים כבדים.

מתאים ל

  • חיזוי עומסים במערכות

    מאפשר לצפות חריגות תעבורה ומדדי שרתים ימים קדימה, כולל מרווחי שגיאה, ללא צורך באימון מודל ייעודי לכל שרת.

  • ניהול מלאי וביקושים

    מייצר התפלגות ביקושים ותרחישי קיצון מההיסטוריה הכללית, בלי להסתפק רק בהערכת ממוצע פשוטה.

  • ניתוח חיישני IoT

    משתלב ישירות מעל בסיסי נתונים של סדרות עיתיות ורץ בקלות על מחשבי קצה בזכות צריכת זיכרון מזערית.

איפה זה נופל

ההסתמכות על trust_remote_code מחייבת הרצת קוד צד שלישי בטעינה, מה שדורש בדיקת אבטחה לפני כניסה לסביבת ייצור. המודל דורש גרסת transformers ספציפית 4.40.1 וסביבת Python 3.10 ליציבות, מה שעלול לייצר התנגשויות תלויות בפרויקטים קיימים. בנוסף, חלון ההקשר המעשי שצוין במפרט מגיע עד 2,880 נקודות אחורה, ולא מעבר לזה. איכות התחזיות תלויה בנרמול הרצף, כך שסדרות עם שברים חריגים במיוחד מחייבות בדיקת התנהגות מוקדמת.

שאלות
נפוצות

האם חייבים GPU כדי להשתמש בו בסביבת ייצור?

לא. המודל שוקל פחות מחצי גיגה ומייצר תחזיות של מאות צעדים קדימה בפחות משנייה על מעבד מחשב נייד רגיל. כרטיס גרפי נחוץ רק אם מעבדים אלפי סדרות במקביל בכל רגע נתון.

איך מחלצים ממנו טווח ביטחון ולא רק מספר יחיד?

מגדירים בפרמטר num_samples מספר דגימות גבוה, למשל עשרים או חמישים. המודל מחזיר טנזור של תחזיות שונות שמהן מחשבים ישירות אחוזונים, סטיות תקן ומרווחי ביטחון לפי הצורך.

איך מריצים

המשקל הכולל עומד על 490 מגה-בייט בלבד בדיוק float32, כך שאין צורך בשרת מנופח. אפשר להריץ אותו מקומית על מעבד רגיל, כאשר על שבב Apple M1 Pro חיזוי של 16 נקודות קדימה לוקח כ־250 מילישארד שנייה, וחיזוי של 720 נקודות עם 20 דגימות שונות לוקח פחות משנייה.

הטעינה נעשית דרך transformers עם trust_remote_code מופעל. אין שום הצדקה כלכלית או הנדסית לשלם על API חיצוני כשמודל כזה רץ בקלות ישירות בזיכרון של שרת פשוט, במיוחד אם הנתונים רגישים וכוללים מדדים פנימיים.

from transformers import pipeline

pipe = pipeline("time-series-forecasting", model="thuml/sundial-base-128m")
print(pipe("שלום"))

הרישיון

רישיון Apache 2.0 מלא. מותר להשתמש בו לצרכים מסחריים, לשנות את הקוד ולהפיץ אותו כחלק ממוצר סגור, בלי תשלום תמלוגים. התנאי היחיד הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקבצים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗