jina-embeddings-v4

מה זה

המודל בנוי על בסיס Qwen2.5-VL-3B-Instruct ומביא יכולת לעבד מסמכים ויזואליים בצורה ישירה. במקום לחלץ טקסט בעזרת כלי נפרד ואז לאבד את מבנה העמוד, הוא קורא ישירות טבלאות, דיאגרמות ואיורים יחד עם המלל, ומייצר להם ייצוג וקטורי שמאפשר שליפה מדויקת. הוא תומך ביותר משלושים שפות ומיועד למשימות חיפוש, התאמת טקסטים ועבודה עם קוד.

הייחוד שלו טמון בשילוב שבין וקטור בודד רגיל לבין מנגנון של אינטראקציה מאוחרת עם ריבוי וקטורים, לצד מתאמים ייעודיים לכל משימה שנטענים בזמן ריצה. בנוסף הוא כולל תמיכה בהקטנת מימדים בשיטת מטריושקה, שמאפשרת לחתוך את הוקטור מברירת המחדל של 2048 ממדים עד ל־128 ממדים כדי לחסוך מקום במסד הנתונים, עם פגיעה מינימלית בדיוק השליפה.

מתאים ל

• חיפוש בדו״חות כספיים

  שליפת נתונים מתוך גרפים, טבלאות ומסמכי PDF סרוקים בלי צורך בתהליך חילוץ מקדים.

• איתור קטעי קוד

  שימוש במתאם הקוד הייעודי כדי לחפש קטעי תוכנה ומסמכים טכניים לפי תיאור מילולי.

• אינדוקס חסכוני במקום

  כיווץ גודל הווקטור עד ל־128 ממדים לשמירה על נפח אחסון מינימלי בבסיס הנתונים.

איפה זה נופל

הטבלה בכרטיס מציינת אורך רצף מרבי של 32,768 טוקנים, בניגוד למגבלה הכללית שמדווחת במקומות אחרים. עיבוד מסמכים ויזואליים כבדים דורש משאבי חישוב משמעותיים ויכול להאט את זמני המענה בצורה מורגשת לעומת מודלי טקסט בלבד. בנוסף, חלוקת המשימות למתאמים נפרדים דורשת להגדיר מראש את סוג המשימה ולא מאפשרת לזרוק אליו קלט בלי לכוונן את אופן ההרצה.

אותה משפחה

jina-embeddings יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

כדי להריץ אותו מקומית צריך כרטיס מסך מודרני עם תמיכה ב־bfloat16 ולפחות 16 ג'יגה זיכרון וידאו, במיוחד אם רוצים לנצל את מלוא חלון ההקשר או לעבד תמונות כבדות. הספרייה דורשת התקנה של פייתורץ' עדכני וספריות לעיבוד תמונה, וכדאי להוסיף את פלאש אטנשן כדי לקבל קצב סביר.

אם אתם מתכננים לעבוד בסביבת ייצור עמוסה עם vLLM, יש גרסאות מופרדות שבהן המתאם של כל משימה כבר מוזג ישירות לתוך המשקלים. למי שאין תשתית עיבוד מתאימה או שרוצה להימנע מתחזוקת שרתים, אפשר לפנות ישירות ל־API שהם מציעים.

from transformers import pipeline

pipe = pipeline("visual-document-retrieval", model="jinaai/jina-embeddings-v4")
print(pipe("שלום"))

הקבצים

27 קבצים במאגר, 7.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors2.5 GB
• adapters/adapter_model.safetensors359.9 MB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• qwen2_5_vl.py133.5 KB
• model.safetensors.index.json65.6 KB
• modeling_jina_embeddings_v4.py22.6 KB
• results.json20.3 KB
• README.md11.8 KB
• custom_lora_module.py7.7 KB
• custom_st.py7.5 KB
• LICENSE7.4 KB
• tokenizer_config.json7.3 KB
• config.json2.8 KB
• .gitattributes1.6 KB
• chat_template.json1.0 KB
• adapters/adapter_config.json900 B
• configuration_jina_embeddings_v4.py750 B
• preprocessor_config.json726 B
• .gitignore678 B
• special_tokens_map.json613 B
• added_tokens.json605 B
• config_sentence_transformers.json274 B
• modules.json168 B
• generation_config.json126 B

הרישיון

הרישיון שהוגדר רשמית על ידי היוצרים הוא רישיון המחקר של Qwen, בעקבות מודל הבסיס שממנו הוא נגזר, למרות שבתחילה שוחרר בטעות תחת רישיון אחר. המשמעות היא שצריך לבדוק היטב את תנאי השימוש של עליבאבא לפני שמשלבים אותו במוצר מסחרי, כי הוא לא בהכרח פתוח לחלוטין לכל שימוש עסקי.

הרישיון המלא בעמוד המודל ↗