GPT
T

t5-small

קוד פתוח

google-t5apache-2.02022-03-02

  • transformers
  • pytorch
  • tf
  • jax
  • rust

גרסה קלה של מודל טקסט לטקסט מבית גוגל, שממירה כל משימת שפה לפלט טקסטואלי ישיר. היא מתאימה למי שחייב מודל קטן ומהיר לחומרה בסיסית.

  • 61Mפרמטרים
  • 512טוקנים בהקשר
  • 2.1 GBמשקל הקבצים
  • 23,855,459הורדות בחודש

מה זה

הארכיטקטורה כאן מתייחסת לכל פעולה, מסיווג ועד תרגום, כאל משימת יצירת מחרוזת מתוך מחרוזת. במקום ראש סיווג נפרד שמחזיר הסתברויות על תוויות, מעבירים לו פקודת טקסט ומקבלים תשובה כתובה. הבסיס אומן על קורפוס C4 יחד עם שילוב משימות מונחות כמו ניתוח סנטימנט, שאלות ותשובות, והסקה לוגית.

בגודל של 61 מיליון פרמטרים, היכולת שלו מוגבלת ביחס למודלים מודרניים. כרטיס המודל לא מציג תוצאות מדידה מפורטות ישירות אלא מפנה לטבלה במאמר המקורי, כך שצריך לבדוק בפועל את הדיוק עבור המשימה הספציפית שלכם ולא להניח שהוא יפתור הכל מהקופסה.

מתאים ל

  • תרגום משפטים קצרים

    מתאים לתרגום מהיר בין אנגלית, גרמנית, צרפתית ורומנית ישירות על המעבד.

  • סיווג טקסט מקומי

    ממיר טקסט קצר לתוויות סנטימנט בלי צורך בתשתית שרתים יקרה.

  • בדיקת דמיון בין משפטים

    עוזר להשוות ניסוחים קצרים במערכות שלא דורשות חלון הקשר רחב.

איפה זה נופל

חלון ההקשר מוגבל ל 512 טוקנים בלבד, מה שחוסם כל ניסיון לטפל במסמכים ארוכים או שיחות מתמשכות. כרטיס המודל לא מפרט הטיות, סיכונים או מגבלות ספציפיות ומציין שחסר מידע בנושא, כך שחובת הבדיקה עליכם לפני שילוב במערכת פעילה. שפות היעד המוצהרות כוללות אנגלית, צרפתית, רומנית וגרמנית, ללא תמיכה מוצהרת בעברית.

שאלות
נפוצות

האם המודל תומך בעיבוד טקסט בעברית?

לא. כרטיס המודל מפרט תמיכה באנגלית, צרפתית, רומנית וגרמנית בלבד. אם תזינו עברית הוא כנראה ייכשל לחלוטין או יחזיר פלט משובש.

האם צריך כרטיס מסך כדי להריץ אותו במוצר?

לא חובה בכלל. בזכות 61 מיליון פרמטרים בלבד, אפשר להריץ אותו על מעבד סטנדרטי ולקבל זמני תגובה טובים למשימות פשוטות.

איך מריצים

אתם מריצים אותו דרך ספריית transformers בפייתון באמצעות T5ForConditionalGeneration וטוקנייזר תואם. המשקל הכולל של הקבצים עומד על 2.1 גיגה בייט, כך שהוא נטען בקלות לכל מעבד סביר בלי חובה במאיץ גרפי חזק, וזיכרון עבודה פשוט של כמה גיגה מספיק בהחלט.

בגלל המשקל הנמוך והריצה המהירה מקומית, אין שום סיבה לשלם על API חיצוני. שווה להחזיק שרת ייעודי רק אם אתם עוברים לגרסאות הגדולות של המשפחה הזו שדורשות משאבים כבדים בהרבה.

from transformers import pipeline

pipe = pipeline("translation", model="google-t5/t5-small")
print(pipe("שלום"))

הרישיון

הפצה תחת רישיון apache-2.0. הרישיון מתיר שימוש מסחרי, שינוי קוד והפצה פנימית או מסחרית בתוך מוצר, כל עוד שומרים על הודעות זכויות היוצרים ומצרפים עותק של הרישיון.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗