koelectra-base-v3-discriminator

מה זה

מדובר בחלק הדיסקרימינטור של ארכיטקטורת ELECTRA, בגרסת בסיס עם 12 שכבות שאומנה על קוריאנית בלבד. במקום לחזות את המילה הבאה כמו מודלים גנרטיביים או להסתיר מילים כמו בברט, הוא מאומן להבדיל בין טוקנים מקוריים לבין כאלה שיוצרו על ידי מחולל. הגישה הזו מאפשרת לו ללמוד מכל הטוקנים במשפט ולא רק מאחוז קטן מהם.

בפועל הוא שוקל רק 431 מגה בייט, מה שהופך אותו לבסיס מעולה לפיין טיונינג של משימות הבנת שפה. מי שמחפש לפתור בעיות סיווג, ניתוח סנטימנט או זיהוי ישויות בקוריאנית מקבל כאן נקודת זינוק יעילה בהרבה ממודלים רב לשוניים כבדים.

מתאים ל

• סיווג טקסט בקוריאנית

  בסיס מהיר לפיין טיונינג עבור ניתוח רגשות, מיון פניות או סינון תוכן בקוריאנית.

• זיהוי שגיאות וטוקנים מזויפים

  שימוש ישיר בדיסקרימינטור כדי לתפוס מילים שלא מתאימות להקשר המשפט.

• חילוץ ישויות ומאפיינים

  ייצוג וקטורי מדויק ברמת הטוקן על פני 12 שכבות להזנה למסווגי סדרות.

איפה זה נופל

זה לא מודל גנרטיבי, והוא לא ייצר לכם טקסט, תשובות לשאלות בצורה חופשית או תרגום. חלון ההקשר שלו מוגבל ל־512 טוקנים, כך שטקסטים ארוכים יצטרכו חיתוך. המודל מיועד לקוריאנית בלבד, ואם תנסו להריץ עליו עברית או אנגלית תקבלו חלוקה גרועה לטוקנים ותוצאות חסרות משמעות לחלוטין.

איך מריצים

טוענים אותו ישירות דרך ספריית transformers בפיטון עם הקלאסים הייעודיים של אלקטרה. המשקל הזעיר שלו אומר שאין שום צורך בחומרת שרתים יקרה. כרטיס מסך בסיסי לחלוטין או אפילו מעבד רגיל יספיקו להסקה מהירה מאוד בזמן אמת.

אם אתם רק צריכים להריץ משימת קצה, אפשר לבצע עליו פיין טיונינג מקומי תוך זמן קצר. אין שום סיבה לפנות לשירותי ענן חיצוניים או לשלם על קריאות דרך ממשקי רשת עבור מודל בגודל כזה, כי העלות של הרצה עצמית אפסית.

from transformers import pipeline

pipe = pipeline("text-generation", model="monologg/koelectra-base-v3-discriminator")
print(pipe("שלום"))

הקבצים

6 קבצים במאגר, 431 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model.bin451.7 MB
• vocab.txt263.3 KB
• README.md1.8 KB
• config.json467 B
• .gitattributes345 B
• tokenizer_config.json61 B

הרישיון

הוא מופץ תחת רישיון apache-2.0. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, לבצע פיין טיונינג ולשלב אותו במוצרים סגורים, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗