Giga-Embeddings-instruct

מה זה

המודל הזה מבוסס על מודל השפה GigaChat-3b בארכיטקטורת דקודר בלבד, עם שכבת איחוד מסוג Latent-Attention שמוציאה וקטורים בגודל 2048 ממדים. להבדיל ממודלי אימבדינג קלאסיים וקטנים, כאן מדובר במשקל כבד שמתנהג כמו מודל הנחיות. אתם מגדירים לו במילים מה אתם מחפשים או מסווגים, והוא מכוון את הוקטור לפעולה המבוקשת.

הוא אומן על שילוב של רוסית ואנגלית, עם חלון הקשר של 4,096 טוקנים. היתרון העיקרי כאן הוא הגמישות במשימות שונות כמו אחזור מידע, דמיון סמנטי או סיווג טקסטים, בלי צורך לאמן ראש ייעודי לכל משימה. המפרסמים מציינים בדיקות בנצ'מרק על RuBQ ו־MIRACL, מה שמעיד על מיקוד מובהק באחזור שאלות ותשובות בשפות היעד שלו.

מתאים ל

• אחזור מידע באנגלית ורוסית

  מתאים למערכות RAG שמשלבות מסמכים בשפות אלו, בזכות דיוק גבוה בשאלות ותשובות שנבדק ב־RuBQ.

• סיווג טקסטים ללא אימון

  מאפשר לסווג ביקורות או נושאים רגישים ישירות דרך הנחיה מתאימה בטקסט השאילתה.

• בדיקת דמיון סמנטי

  מייצר וקטורים שמזהים ניסוחים שונים של אותו רעיון ברמת דיוק טובה עבור צמדי טקסטים.

איפה זה נופל

המודל תומך רשמית רק באנגלית וברוסית, כך שחיפוש בעברית לא נתמך ולא יניב תוצאות עקביות. בנוסף, חלון ההקשר מוגבל קשיחה ל־4,096 טוקנים, וטקסט ארוך מזה פשוט לא יעבוד. החיסרון התפעולי הגדול הוא החובה לנסח הוראה ספציפית לכל שאילתה. אם תשלחו שאילתה ישירה בלי תבנית ההנחיה, איכות הוקטורים והאחזור תרד משמעותית. המפתחים גם מציינים שגרסאות שונות של ספריות הבסיס מייצרות שינויים קלים בתוצאות.

איך מריצים

המשקל הכולל של הקבצים מגיע ל־12.9 ג'יגה בייט בפורמט float32. כדי להריץ אותו מקומית עם sentence-transformers או Hugging Face בצורה יעילה תצטרכו כרטיס מסך עם לפחות 16 עד 24 ג'יגה זיכרון וידאו, במיוחד אם תרצו לנצל את מלוא חלון ההקשר ותעבדו עם flash-attn.

אם אתם צריכים רק וקטורים פשוטים לאנגלית או שאין לכם חומרה ייעודית בשרת, להחזיק מודל כזה באוויר יעלה לא מעט כסף ומשאבים. במקרים כאלה עדיף לפנות ל־API חיצוני או למודלים קטנים בהרבה, אלא אם המידע שלכם רגיש וחייב להישאר אצלכם.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("ai-sage/Giga-Embeddings-instruct")
v = m.encode(["שלום עולם"])

הקבצים

16 קבצים במאגר, 12.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00003.safetensors4.9 GB
• model-00002-of-00003.safetensors4.9 GB
• model-00003-of-00003.safetensors3.9 GB
• tokenizer.json10.7 MB
• tokenizer_config.json48.1 KB
• modeling_gigarembed.py44.1 KB
• model.safetensors.index.json42.9 KB
• configuration_gigarembed.py14.4 KB
• README.md9.9 KB
• config.json5.9 KB
• .gitattributes1.6 KB
• special_tokens_map.json690 B
• modules.json349 B
• 1_Pooling/config.json313 B
• config_sentence_transformers.json283 B
• sentence_bert_config.json58 B

הרישיון

המודל מופץ תחת רישיון MIT. המשמעות היא חופש פעולה כמעט מלא. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להטמיע אותו במוצרים סגורים ולהריץ אותו בכל תשתית, כל עוד משאירים את הצהרת זכויות היוצרים המקורית של ai-sage.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא בעמוד המודל ↗