t5-11b

מה זה

מדובר במשקל הגדול ביותר בסדרת T5 המקורית, עם 11 מיליארד פרמטרים שנועדו לבצע מגוון משימות שפה תחת ממשק אחיד שמקבל טקסט ומחזיר טקסט. גוגל אימנו אותו על מאגר C4 יחד עם שילוב משימות מפוקחות, החל מסנטימנט ועד מענה לשאלות והסקה לוגית.

הוא מתמקד בעיקר באנגלית, צרפתית, רומנית וגרמנית, כך שעבור עיבוד בעברית הוא פשוט לא הבחירה הנכונה. הייחוד שלו בזמן שיצא היה הגישה האחידה לכל בעיית עיבוד שפה, אבל היום מדובר במודל כבד מאוד לתחזוקה שדורש משאבים רציניים ביחס לתמורה.

מתאים ל

• תרגום בין שפות אירופאיות

  מתאים לתרגום טקסטים קצרים בין אנגלית, צרפתית, גרמנית ורומנית ישירות על גבי החומרה שלכם.

• סיווג טקסט וניתוח סנטימנט

  מאומן מראש על משימות סיווג באנגלית ומחזיר תוויות כטקסט נקי בלי צורך בשכבות סיווג נפרדות.

• מענה לשאלות מתוך פסקה

  עונה על שאלות ממוקדות באנגלית בהתבסס על טקסט קצר שנכנס בתוך מגבלת הטוקנים.

איפה זה נופל

המגבלה הטכנית הבולטת ביותר היא חלון הקשר של 512 טוקנים בלבד. אי אפשר להזין לו מסמכים ארוכים, קטעי קוד מורכבים או שיחות מתמשכות, והוא מיועד למשפטים או פסקאות קצרות. בנוסף, כרטיס המודל לא מפרט הטיות, סיכונים או בדיקות בטיחות שבוצעו עליו, כך שכל בדיקת איכות תצטרך להיעשות עצמאית לחלוטין לפני שילוב שלו במערכת אמיתית.

אותה משפחה

t5 יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

כדי להריץ אותו מקומית תצטרכו להתמודד עם קבצים במשקל כולל של 84.2 גיגה בייט. כרטיס מסך בודד רגיל לא מסוגל אפילו לטעון את המשקולות לזיכרון, ולכן חייבים להשתמש בפיצול זיכרון כמו DeepSpeed ZeRO או חלוקת מודל על פני מספר כרטיסי מסך חזקים.

אם אתם לא מחזיקים שרת ייעודי עם חומרה מרובת כרטיסים, ההרמה של הדבר הזה עצמאית תהיה כאב ראש תשתיתי. במקרה כזה עדיף לפנות למודלים מודרניים דרך ספקי ענן או ממשקי תוכנה חיצוניים במקום לשלם על הברזלים.

from transformers import pipeline

pipe = pipeline("translation", model="google-t5/t5-11b")
print(pipe("שלום"))

הקבצים

7 קבצים במאגר, 84.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• tf_model.h545.2 GB
• pytorch_model.bin45.2 GB
• tokenizer.json1.4 MB
• spiece.model791.7 KB
• README.md8.6 KB
• config.json1.2 KB
• .gitattributes345 B

הרישיון

הרישיון הוא Apache 2.0, שמאפשר שימוש חופשי כולל שימוש מסחרי מלא, שינוי הקוד והפצה. התנאי העיקרי הוא שמירת הקרדיט והודעת הרישיון המקורית, בלי דרישה לפתוח את הקוד של המוצר שלכם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗