GPT
הוספת כלי
L

LaMini-Flan-T5-248M

קוד פתוח

MBZUAIcc-by-nc-4.02023-04-10

  • transformers
  • pytorch
  • t5
  • text2text-generation
  • generated_from_trainer

גרסה מכווצת של Flan-T5 שאומנה על מיליוני הוראות כדי לתת מענה מהיר. מתאים למי שרוצה לעבד טקסט מקומי באנגלית בלי להחזיק שרת יקר.

  • 512טוקנים בהקשר
  • 948 MBמשקל הקבצים
  • 1,330הורדות בחודש
  • 81לייקים

מה זה

הבסיס פה הוא Flan-T5-Base של גוגל, שעבר אימון המשך על מאגר של 2.58 מיליון דוגמאות מבוססות הוראות. המפתחים יצרו סדרה שלמה של מודלים קטנים, וסימנו ספציפית את הגרסה הזו כבעלת ביצועים כוללים בולטים יחסית לגודל שלה בארכיטקטורת T5.

בניגוד למודלי פענוח רגילים כמו GPT, כאן יש ארכיטקטורת מקודד מפענח. זה הופך אותו לפרקטי למשימות קצרות וממוקדות כמו מענה להוראות, תמצות או סיווג, בלי המשקל העצום של מודלים מודרניים. החוקרים ביצעו הערכות אוטומטיות על משימות עיבוד שפה וכן הערכות אנושיות על הוראות, אם כי הם לא צירפו את הציונים המדויקים לכרטיס עצמו ומפנים למאמר.

מתאים ל

  • מענה להנחיות קצרות באנגלית

    אימון ייעודי על 2.58 מיליון דוגמאות הוראה מאפשר לו לבצע פקודות פשוטות ביעילות.

  • עיבוד טקסט על חומרת קצה

    משקל קבצים נמוך מגיגהבייט מאפשר להריץ אותו ישירות על מעבדים פשוטים בלי כרטיס מסך.

  • ניסויי מחקר ואקדמיה

    הוא מוגדר כאחד המובילים בסדרה לגודלו ומאפשר לבחון זיקוק מודלים בעלות אפסית.

איפה זה נופל

חלון ההקשר עומד על 512 טוקנים בלבד, כך שאי אפשר להזין לו טקסטים ארוכים או לנהל שיחות מורכבות. המודל אומן ותועד עבור אנגלית בלבד, ואין לו תמיכה רשמית בעברית. בנוסף, כרטיס המודל מציין במפורש שחסר מידע על המגבלות וההטיות שלו, מה שמחייב אתכם לבדוק בעצמכם הזיות ותשובות שגויות לפני שסומכים עליו.

אותה משפחה

LaMini-Flan-T5 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

LaMini-Flan-T5-783M596

שאלות
נפוצות

האם המודל תומך בעבודה בעברית?

הנתונים הרשמיים מגדירים תמיכה בשפה האנגלית בלבד. הוא לא אומן על הוראות בעברית, ולכן ניסיון להזין לו פרומפטים בעברית יפיק כנראה ג'יבריש או שגיאות.

אפשר להשתמש בו במוצר מסחרי של החברה?

לא. הרישיון המוגדר הוא רישיון לא מסחרי, מה שחוסם שימוש במוצרים מניבי רווח או שירותים עסקיים.

איך מריצים

המשקל הכולל של הקבצים הוא פחות מגיגהבייט בודד בפורמט float32, כך שאין צורך בכרטיס מסך ייעודי כדי להריץ אותו. אפשר לטעון אותו ישירות דרך ספריית transformers עם pipeline של text2text-generation על מעבד רגיל בכל מחשב פיתוח, בלי להסתבך עם קוונטיזציה.

אם אתם מחפשים מודל זול שירוץ כחלק מתהליך עיבוד מקומי ברקע, ההרצה העצמית כאן עדיפה ופשוטה. פנייה ל־API חיצוני תהיה הגיונית רק אם אתם צריכים לטפל במסמכים ארוכים או זקוקים להבנה ברמה של מודלי ענק.

from transformers import pipeline

pipe = pipeline("text-generation", model="MBZUAI/LaMini-Flan-T5-248M")
print(pipe("שלום"))

הקבצים

11 קבצים במאגר, 948 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא cc-by-nc-4.0, כלומר שימוש לא מסחרי בלבד. מותר לחקור, ללמוד ולבנות אבות טיפוס פנימיים, תוך מתן קרדיט למפתחים. אם התוכנית היא לשלב אותו במוצר שמייצר הכנסה או מיועד לחברה מסחרית, אי אפשר להשתמש בו חוקית.

  • שינוי הקוד
  • חובת ייחוס
  • שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗