FRIDA

מה זה

מדובר במודל שיבוץ של 823 מיליון פרמטרים שמבוסס על רכיב הקידוד של FRED-T5. הוא אומן על נתונים ברוסית ובאנגלית, ועובד לפי שיטה של תחיליות ספציפיות לכל משימה, כמו חיפוש, זיהוי כוונות או חלוקה לנושאים. ההמלצה של היוצרים היא להשתמש בקיבוץ מסוג CLS כדי להוציא את הווקטור הסופי.

לפי היוצרים, הוא הגיע למקום הראשון בדירוג MTEB ו־rusBEIR מבין מודלים של עד 3 מיליארד פרמטרים. בפועל זה אומר שאתם מקבלים איכות ייצוג של מודל כבד בהרבה, אבל בגודל של קצת יותר מ־800 מיליון פרמטרים, כל עוד מדובר בטקסטים שמתאימים למשימות שהוגדרו לו מראש.

מתאים ל

• חיפוש סמנטי ברוסית

  המודל כולל תחיליות מובנות לשאילתות ומסמכים, ומוביל בלוחות המבחן ברוסית ביחס למשקלו.

• ניתוח רגש וסנטימנט

  יש לו תחילית ייעודית לחילוץ מאפייני רגש, רעילות ושנאה בטקסטים קצרים.

• סיווג נושאים ומאמרים

  הוא יודע לחבר בין כותרות לגוף הטקסט ולקבץ מסמכים לפי נושא מוגדר מראש.

איפה זה נופל

המגבלה המרכזית היא חלון ההקשר, שנחתך ב־512 תתי מילים בלבד. אם יש לכם מסמכים ארוכים, תצטרכו לחתוך אותם לפסקאות קטנות מראש.

בנוסף, הכרטיס מציין במפורש שהמודל תוכנן לרוסית ושהאיכות שלו באנגלית לא ידועה, למרות שהוא אומן על שתיהן. על עברית אין מה לדבר בכלל, הוא לא יודע להתמודד איתה ולא מיועד לזה.

איך מריצים

המשקל הכולל של הקבצים עומד על 3.1 גיגה בייט בפורמט float32, כך שכרטיס מסך בסיסי עם 6 עד 8 גיגה זיכרון יספיק לחלוטין כדי להריץ אותו בהסקה. הוא נתמך ישירות בספריית sentence-transformers וגם בטרנספורמרס הרגיל, כך שהשילוב בקוד דורש רק כמה שורות.

אם אתם לא צריכים פרטיות מלאה או שאין לכם תשתית ענן עם כרטיסי מסך, API חיצוני של שירות אחר יחסוך תחזוקה. אבל בגודל כזה, העלות של שרת ייעודי קטן תהיה זולה ופשוטה לתפעול עצמאי.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("ai-forever/FRIDA")
v = m.encode(["שלום עולם"])

הקבצים

16 קבצים במאגר, 3.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors3.3 GB
• tokenizer.json5.6 MB
• vocab.json2.7 MB
• merges.txt1.7 MB
• rusBEIR.png240.9 KB
• MTEB.png158.0 KB
• img.jpg107.3 KB
• README.md7.7 KB
• .gitattributes1.6 KB
• tokenizer_config.json1.2 KB
• special_tokens_map.json958 B
• config.json823 B
• config_sentence_transformers.json509 B
• modules.json349 B
• 1_Pooling/config.json297 B
• sentence_bert_config.json53 B

הרישיון

הרישיון הוא MIT, וזה אומר חופש כמעט מוחלט. מותר להשתמש בו במוצרים מסחריים, לשנות אותו, להריץ אותו פנימית או להפיץ אותו הלאה, בתנאי ששומרים על הודעת זכויות היוצרים המקורית של ai-forever בקוד.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗