GPT
הוספת כלי
D

DialoGPT-small

קוד פתוח

microsoftmit2022-03-02

  • transformers
  • pytorch
  • tf
  • jax
  • safetensors

microsoft עומדים גם מאחורי Sho, ויש עליו סקירה כאן.

גרסה זעירה של GPT-2 שאומנה על שרשורי שיחה מרדיט כדי לייצר מענה בצ'אט. שווה לבדוק אותו רק כשחייבים מודל קל במיוחד שמייצר תגובות מהירות ומדבר בסגנון יומיומי.

  • 176Mפרמטרים
  • 1,024טוקנים בהקשר
  • 1.6 GBמשקל הקבצים
  • 53,822הורדות בחודש

מה זה

מיקרוסופט אימנו את המודל הזה על 147 מיליון דיאלוגים מתוך שרשורים של רדיט, במטרה לייצר תגובות טבעיות לשיחה מרובת תורות. הבסיס שלו הוא GPT-2 בארכיטקטורת GPT2LMHeadModel, ומבחני הערכה אנושית שערכו לו הראו שתשובות בודדות שלו מתקרבות לרמה אנושית במבחן טיורינג נקודתי.

מבחני הביצועים מראים תמונה ברורה לגבי היכולות שלו. עם ממוצע של 25.02 בלוח המבחנים של HuggingFace, ציון של 25.81 ב־MMLU ואפס עגול ב־GSM8K וב־DROP, ברור לגמרי שאין פה שום הבנה מתמטית, יכולת פתרון בעיות או ידע כללי אמין. כל מה שהוא יודע זה להחזיר תגובה שנשמעת כמו תגובה טיפוסית בפורום אינטרנטי, בלי עומק עובדתי.

מתאים ל

  • בוט פטפוט בסיסי

    מייצר תגובות קצרות ומהירות לשיחות חולין קלילות, בלי צורך בחומרה ייעודית או בשרתים חזקים.

  • אימון ובדיקות מקומיות

    מאפשר לבדוק פייפליין של מודלי שפה על מחשב נייד פשוט בזכות משקל של 1.6 גיגה בלבד.

  • דמויות למשחקים

    מתאים ליצירת שיחות פשוטות ולא צפויות עבור דמויות רקע שלא נדרשות לספק עובדות מדויקות.

איפה זה נופל

המודל הזה לא נועד לענות על שאלות ידע, לא מסוגל לחשב שום דבר, ויורק שטויות ברגע שמבקשים ממנו עובדות. בגלל הדאטה מרדיט, התשובות שלו נוטות להיות סרקסטיות, שטחיות ולא מבוקרות. לפני ששמים אותו מול משתמשים אמיתיים חייבים להבין שהוא לא עבר סינון רעלים מודרני, ואי אפשר לסמוך על שום מידע שהוא פולט.

שאלות
נפוצות

האם אפשר להשתמש בו לתמיכת לקוחות?

ממש לא. המודל אומן על שיחות מרדיט, הוציא אפס במבחני היגיון וידע, והתשובות שלו לא מבוססות על שום מאגר נתונים עסקי. הוא עלול לתת תשובות סרקסטיות או להמציא נתונים לחלוטין.

איך הוא מתמודד עם שיחות ארוכות?

חלון ההקשר שלו מוגבל ל־1,024 טוקנים בלבד. אחרי כמה חילופי דברים קצרים הוא יאבד את מה שנאמר בתחילת השיחה, ולכן הוא מתאים בעיקר לתגובות נקודתיות של תור אחד או שניים.

איך מריצים

טוענים אותו ישירות דרך ספריית transformers בפייתון. 176 מיליון פרמטרים ומשקל קבצים של 1.6 גיגה בייט אומרים שאפשר להריץ אותו בלי בעיה על מעבד רגיל בכל מחשב פיתוח, בלי לגעת בכרטיס מסך ייעודי.

הוא מיועד לריצה מקומית קלילה, ולכן אין טעם לחפש לו שירותי ענן יקרים. אם אתם צריכים מודל שמבין הנחיות מורכבות או שומר על הקשר ארוך מעבר ל־1,024 טוקנים, עדיף להשתמש ב־API של מודלים מודרניים במקום לנסות לדחוף את המודל הזה לשם.

from transformers import pipeline

pipe = pipeline("text-generation", model="microsoft/DialoGPT-small")
print(pipe("שלום"))

הקבצים

12 קבצים במאגר, 1.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

רישיון MIT מאפשר לעשות עם הקוד והמשקלים כמעט הכל, כולל שימוש מסחרי, שינוי והפצה בתוך מוצרים סגורים. התנאי היחיד הוא שמירת הודעת זכויות היוצרים והרישיון המקורי בקבצים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗