GPT
הוספת כלי
R

rugpt3large_based_on_gpt2

קוד פתוח

ai-foreverרישיון לא דווח2022-03-02

  • transformers
  • pytorch
  • jax
  • gpt2
  • text-generation

מודל שפה רוסי ותיק שמבוסס על GPT-2 ומיועד ליצירת טקסט. הוא רלוונטי רק אם אתם חייבים פתרון מקומי ברוסית ולא יכולים להשתמש ברשת חיצונית.

  • 2,048טוקנים בהקשר
  • 5.8 GBמשקל הקבצים
  • 1,891הורדות בחודש
  • 96לייקים

מה זה

מדובר במודל שמבוסס על ארכיטקטורת GPT2LMHeadModel ואומן על ידי צוות SberDevices מבית ai-forever. המטרה שלו מוגדרת וברורה, יצירת טקסט בשפה הרוסית בלבד. תהליך האימון כלל 80 מיליארד טוקנים לאורך שלושה מחזורים בהקשר קצר, ואז כוונון נוסף של מחזור אחד להרחבת חלון ההקשר. המפתחים מדווחים על ערך פרפלקסיטי של 13.6 במבחן הסופי, נתון שמראה על רמת חיזוי סבירה לטקסט רוסי טיפוסי, אבל לא מעיד על יכולות הבנה מורכבות או יכולת לפתור בעיות לוגיות.

הוא יצא בתחילת 2022, כך שאין כאן אימון מודרני מונחה הוראות או יישור התנהגות כמו במודלים עדכניים. הוא פשוט מנחש את הטוקן הבא ברצף. אם אתם מחפשים צ'אט שמגיב יפה ומבין הקשרים עדינים, הוא לא שם בלי שתאמנו אותו בעצמכם על דאטה ייעודי.

מתאים ל

  • השלמת טקסט ברוסית

    מתאים למערכות שצריכות השלמה אוטומטית של משפטים ופסקאות קצרות ברוסית על גבי חומרה מקומית.

  • בסיס לאימון מותאם

    משמש נקודת מוצא זולה לכוונון נוסף על מאגרי טקסט רוסיים קטנים כשרוצים מודל ייעודי למשימה בודדת.

  • מחקר וניתוח טקסטואלי

    רלוונטי לבדיקת ביצועי מודלי שפה רוסיים קלאסיים לעומת ארכיטקטורות מודרניות בסביבות אקדמיות.

איפה זה נופל

הוא מוגבל אך ורק לשפה הרוסית, כך שאי אפשר לבנות עליו לפרויקטים בעברית או באנגלית. מעבר לזה, חלון ההקשר מגיע רק ל־2,048 טוקנים, מה שחוסם מיד ניתוח של מסמכים ארוכים או שיחות מתמשכות. מודלים מהדור הזה נוטים לייצר חזרות מציקות, להמציא עובדות בקלות ולאבד את חוט המחשבה מהר מאוד אם לא מגבילים אותם היטב בזמן הדגימה.

שאלות
נפוצות

האם אפשר להשתמש בו לטקסטים בעברית?

לא. המודל אומן על רוסית בלבד ולא יבין קלט בעברית או ייצר פלט הגיוני. עבודה בעברית מחייבת מודל אחר לגמרי.

כמה זיכרון כרטיס מסך נחוץ בשביל להריץ אותו?

המשקלים תופסים 5.8 גיגה בייט בקבצים, ולכן כרטיס מסך עם 8 גיגה זיכרון יספיק בדרך כלל להסקה. כדי לכוונן אותו תצטרכו כרטיס חזק יותר עם 16 גיגה ומעלה.

איך מריצים

המשקל הכולל של הקבצים מגיע ל־5.8 גיגה בייט, כך שאפשר להריץ אותו יחסית בקלות על כרטיס מסך בודד עם זיכרון צנוע של 8 עד 12 גיגה בייט. הטעינה נעשית דרך ספריית transformers הרגילה של פייתון בלי צורך בהגדרות מיוחדות, מה שהופך את ההרמה שלו לפשוטה מאוד למי שכבר עובד בסביבה הזו.

אם כל מה שאתם צריכים זה כמה קריאות ביום לטקסט ברוסית, עדיף להשתמש ב־API מודרני ולא לתחזק שרת בשבילו. הפעלת מופע עצמאי כזה משתלמת רק אם אסור למידע שלכם לצאת מהמחשב המקומי או כשחייבים חביון נמוך מאוד במערכת סגורה.

from transformers import pipeline

pipe = pipeline("text-generation", model="ai-forever/rugpt3large_based_on_gpt2")
print(pipe("שלום"))

הקבצים

9 קבצים במאגר, 5.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון של המודל לא דווח בכרטיס המקורי. במצב כזה, מבחינה משפטית אין לכם הרשאה מפורשת להשתמש במשקלים בתוך מוצר מסחרי. חברות מסודרות לא יוכלו להכניס אותו לסביבת ייצור בלי לבדוק קודם את תנאי הפרסום מול הצוות ששחרר אותו.

הרישיון המלא בעמוד המודל ↗