instructor-xl

מה זה

מדובר במודל וקטורי מבוסס T5 שמקבל טקסט יחד עם הנחיה, ומייצר ייצוג שמותאם ספציפית למשימה שהגדרתם. במקום לייצר וקטור אחיד לטקסט בלי קשר להקשר, הוא יודע להתאים את המשמעות של אותו קטע בדיוק לפי ההוראה, למשל חיפוש שאילתות, סיווג כוונות או קיבוץ נושאים.

במבחני MTEB הוא מציג תוצאות מעורבות שתלויות מאוד בסוג המשימה. בסיווג פולריות באמזון הוא מגיע לדיוק של 86.542, ובסיווג שאלות בנקאיות ב־Banking77 הוא מגיע ל־82.662, שזה ביצוע יציב למדי. מצד שני, בסיווג מורכב יותר כמו ביקורות מדורגות באמזון הדיוק צונח ל־42.964, ובמשימות אחזור טכניות כמו Mathematica ב־CQADupstack ה־MRR בעשירייה הראשונה מגיע רק ל־29.705.

מתאים ל

• אחזור שאלות ותשובות

  המודל מגיע ל־MRR של 77.611 בזיהוי שאלות כפולות במאגרים טכניים.

• סיווג כוונות בנקאיות

  הוא מציג דיוק של 82.662 במאגר Banking77 ישירות בעזרת הנחיה מתאימה.

• דמיון סמנטי רפואי

  מגיע למתאם ספירמן של 84.153 במבחן BIOSSES לטקסטים ביו-רפואיים.

איפה זה נופל

החולשה המרכזית היא חלון הקשר של 512 טוקנים בלבד. מסמכים ארוכים, דוחות או שיחות שלמות ייחתכו, והמודל פשוט לא מתאים למשימות שדורשות הבנה של טקסט רחב. בנוסף הוא תומך באנגלית בלבד, כך שאין מה לנסות להריץ איתו עברית.

מעבר לזה, במשימות אחזור מתמטיות או מדעיות מורכבות התוצאות שלו נמוכות משמעותית מתחומי שיחה כלליים. לפני שמשלבים אותו בחיפוש על מסד נתונים טכני עמוק, חובה למדוד אותו על המידע האמיתי שלכם.

איך מריצים

המודל שוקל 4.6 גיגה-בייט ומגיע בפורמט float32, מה שאומר שהוא דורש כרטיס מסך עם לפחות 8 עד 12 גיגה זיכרון כדי לעבוד בנוחות עם אצוות קטנות. מריצים אותו ישירות דרך ספריית sentence-transformers או transformers של פייתון, בלי תלות בתשתיות חריגות.

אם אין לכם כרטיס ייעודי בשרת והצורך הוא בעיקר לעבד מסמכים מדי פעם, החזקה של מודל במשקל כזה בזיכרון תהיה כבדה ויקרה. במצב כזה עדיף לשלם לפי קריאה ל־API חיצוני של הטמעות טקסט, ולשמור את הריצה המקומית רק למקרים שבהם המידע רגיש או שיש נפח קבוע וגבוה שמצדיק את השרת.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("hkunlp/instructor-xl")
v = m.encode(["שלום עולם"])

הקבצים

14 קבצים במאגר, 4.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model.bin5.0 GB
• 2_Dense/pytorch_model.bin3.1 MB
• tokenizer.json2.4 MB
• spiece.model791.7 KB
• README.md66.3 KB
• tokenizer_config.json2.4 KB
• special_tokens_map.json2.2 KB
• config.json1.5 KB
• .gitattributes1.5 KB
• modules.json461 B
• 1_Pooling/config.json270 B
• config_sentence_transformers.json122 B
• 2_Dense/config.json116 B
• sentence_bert_config.json53 B

הרישיון

הקוד והמשקולות מפורסמים תחת רישיון apache-2.0. הרישיון מתיר שימוש מסחרי חופשי, שינוי של המודל והפצה בתוך מוצרים, בתנאי ששומרים על הודעת זכויות היוצרים והרישיון המקורי בקבצים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗