chronos-t5-small
קוד פתוחamazonapache-2.02024-02-21
מודל חיזוי סדרות עתיות של 46 מיליון פרמטרים שממיר מספרים לטוקנים כמו מודל שפה. הוא מתאים למי שרוצה תחזית הסתברותית מהירה בלי לאמן מודל מאפס על הדאטה שלו.
- 46Mפרמטרים
- 512טוקנים בהקשר
- 176 MBמשקל הקבצים
- 667,169הורדות בחודש
מה זה
המודל הזה לוקח ערכים רציפים של סדרות זמן, מבצע עליהם סקיילינג וקוונטיזציה לתוך מילון של 4096 טוקנים, ואז חוזה את ההמשך בדיוק כמו שמודל טקסט חוזה את המילה הבאה. הוא מבוסס על הארכיטקטורה של T5, ומאומן על מאגר גדול של סדרות זמן ציבוריות לצד נתונים סינתטיים שנוצרו עם תהליכים גאוסיאניים. במקום לתת מספר יחיד קשיח, הוא דוגם מספר מסלולים עתידיים כדי לייצר התפלגות תחזית שלמה.
בגודל של 46 מיליון פרמטרים, הוא יושב באמצע הסדרה, מעל גרסאות ה־tiny וה־mini אך מתחת ל־base ול־large. ההבדל המרכזי מול T5 רגיל הוא כיווץ אוצר המילים, שחוסך משקל ומאפשר לו להתמקד אך ורק בדפוסי מספרים מקוונטטים.
מתאים ל
- חיזוי עומסים במערכות
ניתוח מטריקות תשתית במרווחי זמן קבועים כדי להיערך לחריגות זיכרון ומעבד מראש.
- תחזיות ביקוש ומלאי
קבלת התפלגות של מכירות עתידיות במוצרים בעלי היסטוריה קצרה, ללא אימון ייעודי.
- ניטור סנסורים ומכונות
דגימת מסלולים צפויים של קריאות חיישנים וזיהוי חריגות מהתחזית ההסתברותית בזמן אמת.
איפה זה נופל
היוצרים עצמם מציינים שקיימת כבר משפחת Chronos-Bolt, שמציגה 5 אחוז פחות שגיאות, מהירה עד פי 250 וצורכת פי 20 פחות זיכרון בהשוואה למודל המקורי הזה. מעבר לכך, חלון ההקשר מוגבל ל־512 טוקנים, מה שחוסם ניתוח של היסטוריה ארוכה מאוד בלי לדחוס או לדלל את הנתונים מראש.
שאלות
נפוצות
האם כדאי לבחור בו לפרויקט חדש?
לא בטוח. אמזון שחררה את גרסת Bolt שמציגה דיוק גבוה יותר ב־5 אחוזים ומהירות עבודה גבוהה בהרבה באותו סדר גודל של פרמטרים. כדאי לבדוק קודם את chronos-bolt-small אלא אם יש לכם סיבה טכנית להישאר עם המימוש המקורי.
איך המודל מתמודד עם ערכים שלא הופיעו בעבר?
הוא מבצע סקיילינג וקוונטיזציה של הנתונים לפני שהם נכנסים לארכיטקטורה, כך שהערכים ממופים למילון של 4096 טוקנים יחסיים. בסיום, הוא ממיר את הטוקנים הנדגמים בחזרה לסקאלה המקורית.
איך מריצים
המשקל הכולל של הקבצים עומד על 176 מגה-בייט בלבד, כך שלא צריך מעבד גרפי כבד או שרת ייעודי כדי להריץ אותו. מעבד רגיל במחשב פיתוח או שרת פשוט יספיקו בהחלט, וההתקנה נעשית ישירות ממאגר הגיטהאב של הפרויקט עם ספריית chronos-forecasting.
אמזון מאפשרת לפרוס אותו גם ב־SageMaker JumpStart בלחיצת כפתור, אבל עבור מודל כזה קטן, פריסה עצמית על שרת קיים תחסוך את עלויות הניהול והתקורה של שירות ענן מנוהל.
pip install -U huggingface_hub hf download amazon/chronos-t5-small
הקבצים
6 קבצים במאגר, 176 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
רישיון apache-2.0 מאפשר שימוש מסחרי מלא, שינוי של הקוד והפצה פנימית או חיצונית בתוך מוצרים. הדרישה העיקרית היא לשמור על הודעת זכויות היוצרים וכתב הוויתור על האחריות.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים