rbt3
קוד פתוחhflapache-2.02022-03-02
גרסה מכווצת של רוברטה בסינית שמיועדת להשלמת מילים וחישוב מהיר. היא פונה למי שחייב מהירות תגובה קיצונית בעיבוד טקסט סיני על חומרה בסיסית.
- 512טוקנים בהקשר
- 443 MBמשקל הקבצים
- 4,813הורדות בחודש
- 40לייקים
מה זה
מדובר במודל שפה קומפקטי שמבוסס על ארכיטקטורת ברט, אבל כולל שלוש שכבות בלבד במקום תריסר. המפתחים אימנו אותו מחדש על טקסטים בסינית תוך שימוש במסוך של מילים שלמות, גישה שמתאימה יותר למבנה השפה הסינית בהשוואה לחיתוך תווים בודדים. התפקיד הטבעי שלו הוא חיזוי מילים מוסתרות, והוא בנוי מראש לתת מענה במקומות שבהם מודל רגיל כבד מדי.
בגודל כזה, המודל מקריב חלק מיכולת ההבנה העמוקה לטובת מהירות ומשקל קובץ מינימלי. הוא שונה מרוב מה שמסתובב ברשת בכך שהוא מתמקד אך ורק בסינית, ולא מנסה להיות מודל רב לשוני שסוחב משקל עודף של שפות אחרות. אם אתם מחפשים כלי שיעשה סיווג מהיר או ניתוח טקסט בסינית בסביבה מוגבלת, החיתוך לשלוש שכבות הופך אותו למהיר בהרבה מכל גרסה מלאה.
מתאים ל
- השלמת מילים בסינית
חיזוי טקסט מהיר תוך כדי הקלדה, במערכות שחייבות להגיב בפחות מכמה מילישניות.
- בסיס למסווג קל
אימון שכבת סיווג דקה מעליו לזיהוי כוונות או ניתוח רגש פשוט בטקסטים סיניים.
- עיבוד על מכשירי קצה
ריצה מקומית על מחשבים פשוטים ללא כרטיס מסך, תודות למשקל קל במיוחד.
איפה זה נופל
הקיצוץ לשלוש שכבות גובה מחיר ברור, והמודל הזה פשוט לא יבין הקשרים מורכבים, סרקזם או משפטים ארוכים ומפותלים. הוא מוגבל לחלון של 512 טוקנים, תומך בסינית בלבד, ואם תזרקו עליו משימה שדורשת היגיון עמוק תקבלו תוצאות חלשות. בנוסף, הוא אומן להשלמת מילים ולא למענה על שאלות חופשיות או ניהול שיחה.
שאלות
נפוצות
האם יש למודל הזה הבנה בעברית או באנגלית?
לא, הוא אומן באופן ייעודי על טקסט סיני בלבד. שימוש בו לכל שפה אחרת פשוט לא יעבוד וייתן פלט חסר משמעות.
האם הוא יכול לשמש כצ'אטבוט?
ממש לא. מדובר במודל שמנחש מילים מוסתרות בתוך משפט, ולא במודל שמייצר תשובות ארוכות לפניות של משתמשים.
איך מריצים
טוענים אותו ישירות דרך ספריית הטרנספורמרס בקוד פייתון פשוט. בגלל שמדובר בקבצים של פחות מחצי ג'יגה בייט, אתם ממש לא צריכים שרת ייעודי או כרטיס גרפי יקר. הוא ירוץ בלי בעיה גם על מעבד רגיל של מחשב נייד ישן, וצריכת הזיכרון שלו בעבודה שוטפת נמוכה מאוד.
אין כאן שום סיבה אמיתית לחבר שירות ענן חיצוני או לשלם על קריאות דרך ממשק מרוחק. העלות של החזקת המודל אצלכם בשרת זניחה לחלוטין, ואם המוצר שלכם מעבד טקסטים רגישים בסינית, להריץ אותו מקומית זו הדרך הכי נקייה ומהירה לחסוך עיכובים של רשת.
from transformers import pipeline
pipe = pipeline("fill-mask", model="hfl/rbt3")
print(pipe("שלום"))הקבצים
11 קבצים במאגר, 443 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.
הרישיון
הקוד והמשקלים זמינים תחת רישיון אפאצ'י 2.0. מותר להשתמש בו במוצרים מסחריים, לשנות אותו ולהפיץ אותו בלי לשלם תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים ומצרפים עותק של הרישיון המקורי.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש
- שימוש בפטנטים