GPT
הוספת כלי
O

Octen-Embedding-8B

קוד פתוח

Octenapache-2.02025-12-23

  • sentence-transformers
  • safetensors
  • qwen3
  • sentence-similarity
  • feature-extraction

מודל וקטורי מבוסס Qwen3 שמיועד לשליפת מידע ממסמכים ארוכים במיוחד. הוא עוקף את המתחרים המסחריים במבחן RTEB ומציע חלון הקשר עצום, במחיר של משקל כבד שדורש חומרה רצינית.

  • 7.6Bפרמטרים
  • 40,960טוקנים בהקשר
  • 14.1 GBמשקל הקבצים
  • 387,588הורדות בחודש

מה זה

מדובר במודל שיודע להמיר טקסט לוקטורים בני 4,096 ממדים עבור חיפוש סמנטי, התאמת מסמכים ומערכות RAG. המודל עבר אימון LoRA על גבי הבסיס של Qwen3 כדי להתמחות בתחומים מקצועיים מובהקים כמו משפטים, רפואה, פיננסים וקוד, והוא תומך ביותר ממאה שפות.

במבחן הביצועים של RTEB המודל רשם ציון ממוצע של 0.8045 ועקף חלופות כמו voyage-3-large או gemini-embedding-001. מעבר לציון הכללי, היתרון המרכזי שלו מתבטא ביכולת להתמודד עם טקסטים ארוכים עד תקרה של 40,960 טוקנים, תכונה שחוסכת חיתוך אגרסיבי של מסמכים מורכבים.

מתאים ל

  • חיפוש בתיקים משפטיים

    שליפת פסיקות וחוזים ארוכים במיוחד בלי לחתוך אותם למקטעים קטנים שמאבדים משמעות.

  • אינדוקס מאגרי קוד

    איתור פונקציות ושאילתות SQL בזכות אימון ספציפי על שפות תכנות שונות.

  • שליפת מסמכים פיננסיים

    התאמת שאלות לדוחות כספיים עמוסים בזכות דיוק גבוה שהוכח במבחני תחום ייעודיים.

איפה זה נופל

יש פה באג מעצבן שמגיע ישירות ממודל הבסיס של Qwen3. בזמן קידוד מסמכים ללא הנחיה מוקדמת המודל מתנהג בצורה לא צפויה, והיוצרים מחייבים להוסיף מקף ורווח בתחילת כל מסמך כדי לעקוף את הבעיה. בנוסף, למרות ההבטחה לתמיכה רחבה בשפות, היכולת שלו בעברית לא נבדקה ולא מפורטת במדדים, כך שחובה לבחון אותו מקומית על הדאטה שלכם. הוא מיועד רק לשליפה ולא מייצר טקסט, ומסמכים מעבר לתקרת הטוקנים ייחתכו.

אותה משפחה

Octen-Embedding יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Octen-Embedding-0.6B24,553

שאלות
נפוצות

האם המודל שווה את משאבי הריצה מול גרסת 4B?

הוא מציג ציון של 0.8045 מול 0.7834 בגרסת ה־4B, כך שאם אתם בונים מערכת קריטית שבה כל שבריר אחוז של דיוק בשליפה משפיע, ההשקעה בחומרה מוצדקת. במערכות רגילות שלא דורשות את המקסימום המוחלט, הדגם הקטן יותר יחסוך זיכרון יקר.

מה הסיפור עם הקידומת שצריך להוסיף לטקסט?

בגלל תקלה שקיימת במודל המקורי עליו הוא אומן, המודל עלול לחשב וקטורים שגויים כשמזינים מסמך נקי. הפתרון הטכני שהמפתחים דורשים הוא שרשור של מקף ורווח בתחילת כל מחרוזת של מסמך לפני הקידוד.

איך מריצים

כדי להריץ אותו צריך לפנות מקום ל־14.1 גיגה-בייט של משקולות, מה שמחייב כרטיס מסך עם לפחות 16 עד 24 גיגה-בייט של זיכרון גרפי עבור תהליך הסקת מסקנות סביר, ועוד יותר אם תנצלו את מלוא חלון ההקשר. המודל עובד ישירות מתוך ספריית sentence-transformers או דרך transformers עם שימוש בטוקן האחרון ונרמול וקטורים.

אם סביבת הפיתוח שלכם דלה במשאבים או שאתם בונים שירות קצה, סדרת הדגמים כוללת גם גרסאות קלות של 4 מיליארד ו־0.6 מיליארד פרמטרים. כשאין גישה לחומרה ייעודית מתאימה, עדיף להשתמש ב־API של החברה במקום לנסות לדחוף שמונה מיליארד פרמטרים למחשב מקומי.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("Octen/Octen-Embedding-8B")
v = m.encode(["שלום עולם"])

הקבצים

19 קבצים במאגר, 14.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0, שמאפשר שימוש מסחרי מלא ושינוי של הקוד והמשקולות ללא תשלום תמלוגים. אתם יכולים לשלב אותו במוצרים שלכם, להפיץ אותו מחדש או להריץ אותו בשרתים פנימיים, בתנאי שתשמרו על הודעת זכויות היוצרים המקורית והצהרת הרישיון.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗