BidirLM-Omni-2.5B-Embedding

מה זה

מדובר באנקודר דו כיווני עם 2.4 מיליארד פרמטרים, שמבוסס במקור על Qwen3 ומייצר וקטורים בגודל 2048 ממדים. הייחוד פה הוא היכולת לקבל טקסט בעד 32 אלף תווים, תמונה או קובץ קול, ולהוציא לכולם ייצוג שמאפשר לחשב מרחק ביניהם ישירות עם דמיון קוסינוס.

רוב מודלי השיבוץ יודעים להתמודד רק עם טקסט, או לכל היותר עם טקסט ותמונה כמו ברוב יישומי קליפ. כאן יש תמיכה באודיו שמנורמל אוטומטית לשישה עשר קילוהרץ, לצד תמיכה בלמעלה ממאה ותשע עשרה שפות, כך שאפשר לחפש בטקסט חופשי קטעי דיבור או תמונות בלי מתווכים.

מתאים ל

• חיפוש חוצה מדיה

  שליפת תמונות והקלטות שמע ישירות מתוך שאילתת טקסט חופשי, בלי להמיר את הסאונד למלל תחילה.

• איחוד וקטורי במערכות RAG

  שמירת מסמכים שכוללים דיאגרמות, פודקאסטים וטקסט בתוך אינדקס וקטורי אחד של אלפיים ארבעים ושמונה ממדים.

• קלאסטרינג של תוכן מעורב

  חלוקה לקבוצות דמיון של פריטים הכוללים שיחות מוקלטות, צילומי מסך וטקסטים בלי מודל נפרד לכל סוג קובץ.

איפה זה נופל

ההרצה מחייבת הפעלה של קוד מרוחק עם trust_remote_code, מה שמחייב בדיקת אבטחה לפני שמעלים אותו לשרתי ייצור. בנוסף, עיבוד אודיו ותמונה דורש תלויות כבדות כמו librosa שמבצעות המרות ודגימות מחדש בזמן אמת, מה שעלול לייצר צוואר בקבוק משמעותי בזמני תגובה תחת עומס.

איך מריצים

המשקל יושב על ארבעה נקודה שישה גיגהבייט, כך שהוא נכנס בקלות לכרטיס מסך בודד עם שמונה או שנים עשר גיגה זיכרון. מריצים אותו ישירות מתוך ספריית sentence transformers עם פקודת encode רגילה, לצד librosa שדואגת לעיבוד האודיו.

שימו לב שחובה לעבוד עם דרייברים מעודכנים וגרסת cuDNN מעל 9.20.0, אחרת באג ידוע בחישובי Conv3D של כרטיסי אנבידיה ירסק לכם את הביצועים. אם אין לכם תשתית עם מעבד גרפי מתאים ועדכני, החזקה עצמית של המודל תהיה איטית ומסורבלת.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("BidirLM/BidirLM-Omni-2.5B-Embedding")
v = m.encode(["שלום עולם"])

הקבצים

22 קבצים במאגר, 4.6 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors4.9 GB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• modeling_bidirlm_omni.py72.3 KB
• processing_bidirlm_omni.py18.4 KB
• tokenizer_config.json12.7 KB
• configuration_bidirlm_omni.py8.5 KB
• README.md7.8 KB
• chat_template.jinja5.9 KB
• config.json2.0 KB
• .gitattributes1.6 KB
• added_tokens.json1.6 KB
• special_tokens_map.json1.0 KB
• video_preprocessor_config.json910 B
• sentence_bert_config.json907 B
• bidirlm_omni_transformer.py786 B
• preprocessor_config.json709 B
• 1_Pooling/config.json313 B
• config_sentence_transformers.json277 B
• modules.json236 B
• processor_config.json137 B

הרישיון

המודל משוחרר תחת רישיון אפאצ'י שתיים אפס. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להטמיע אותו במוצרים סגורים ולהפיץ אותו, כל עוד שומרים על תנאי הרישיון המקורי ומתן קרדיט ליוצרים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗