GPT
הוספת כלי
T

t5-base-finetuned-question-generation-ap

קוד פתוח

mrm8488apache-2.02022-03-02

  • transformers
  • pytorch
  • tf
  • safetensors
  • t5

הוא לוקח טקסט ותשובה מתוכו ומייצר את השאלה שמתאימה להם. פתרון ממוקד, קל משקל וזול להרצה מקומית בלי לערב מודלי ענק.

  • 297Mפרמטרים
  • 512טוקנים בהקשר
  • 3.0 GBמשקל הקבצים
  • 791הורדות בחודש

מה זה

מדובר בהתאמה של T5 בגרסת base, עם 297 מיליון פרמטרים, שאומנה על מערך הנתונים SQuAD 1.1 שכולל 87,599 דוגמאות אימון ועוד 10,570 דוגמאות ולידציה. במקום לענות על שאלות כמו רוב המערכות שמאומנות על הדאטה־סט הזה, הוא הופך את כיוון העבודה לחלוטין. מזינים לו קטע טקסט ואת התשובה הרצויה בפורמט קבוע, והוא מחזיר ניסוח של שאלה שהתשובה עליה היא המחרוזת שסופקה.

היתרון שלו על פני מודלים כלליים נעוץ בפשטות שלו. הוא לא מנסה לנהל שיחה, לכתוב קוד או לנתח רגשות, אלא עושה דבר אחד בלבד. עם זאת, היוצר לא שיתף מדדי הערכה מספריים כמו BLEU או ROUGE על סט הוולידציה, כך שאי אפשר להשוות את הדיוק שלו בצורה יבשה מול גרסאות אחרות בלי להריץ בדיקה ידנית על הנתונים שלכם.

מתאים ל

  • בניית שאלוני לימוד

    יצירה אוטומטית של שאלות מתוך פסקאות לימודיות באנגלית, על בסיס מושגים שמסומנים כתשובות.

  • אוגמנטציה לדאטה־סטים

    הרחבת מאגרי מידע של שאלות ותשובות עבור אימון מערכות חיפוש או צ'אטבוטים, ללא תלות בספק חיצוני.

  • הערכת הבנת הנקרא

    מערכות שבוחנות משתמשים על טקסט שקראו ומפיקות שאלות ממוקדות על עובדות ספציפיות.

איפה זה נופל

הקלט מוגבל ל־512 טוקנים, מה שאומר שאי אפשר לדחוף לתוכו עמודים שלמים או מאמרים ארוכים בלי לקצוץ אותם לקטעים קטנים קודם. בנוסף, המודל אומן על אנגלית בלבד ולכן הוא לא מתאים לטקסטים בעברית. חיסרון מהותי נוסף הוא התלות שלו בפורמט קבוע, שבו אתם חייבים לספק לו מראש את התשובה כדי לקבל שאלה. אם אין לכם שיטה מובנית לאתר קודם ישויות או משפטי מפתח בטקסט, הוא לא יידע לפעול לבד.

שאלות
נפוצות

האם המודל יודע לייצר שאלות בעברית?

לא. המודל אומן על SQuAD באנגלית בלבד. אם תזינו לו טקסט בעברית תקבלו פלט שגוי, מקוטע או חסר משמעות לחלוטין.

איך המודל יודע על מה לשאול מתוך הפסקה?

הוא לא מנחש את נושא השאלה לבד. חובה להעביר לו במפורש גם את התשובה הרצויה וגם את ההקשר במבנה שהוגדר לו מראש.

איך מריצים

טוענים את המודל דרך transformers ישירות מקוד פייתון רגיל עם AutoTokenizer ו־AutoModelWithLMHead. הקבצים שוקלים 3.0 ג'יגה־בייט, כך שכל מעבד גרפי פשוט עם 4 עד 6 ג'יגה־בייט של זיכרון יחזיק אותו בלי שום מאמץ, ואפשר להריץ אותו בקלות גם על מעבד רגיל של שרת מקומי בעלויות זניחות.

אם אתם צריכים לחלץ שאלות עבור מאגר מידע שלם או לייצר מבחנים בכמויות, מריצים אותו מקומית בסבבים מהירים. שווה לפנות ל־API חיצוני רק אם המוצר שלכם זקוק לזה לעיתים רחוקות מאוד, ואין לכם שום שרת פעיל להחזיק עליו תהליך פייתון שממתין לבקשות.

from transformers import pipeline

pipe = pipeline("text-generation", model="mrm8488/t5-base-finetuned-question-generation-ap")
print(pipe("שלום"))

הקבצים

10 קבצים במאגר, 3.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא apache-2.0, שמאפשר שימוש מסחרי מלא, שינוי של הקוד והפצה חופשית בתוך מוצרים. התנאי היחיד הוא שמירה על הצהרת זכויות היוצרים של היוצר והרישיון המקורי, בלי שום חובה לפתוח את הקוד שלכם.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗