bge-code-v1

מה זה

מדובר במודל הטמעות מבוסס ארכיטקטורת Qwen2 עם מיליארד וחצי פרמטרים, שמתמקד בחיפוש ואחזור של קוד לצד טקסט רגיל. הוא תומך בעשרים שפות תכנות ובשאילתות בשפות טבעיות, כולל אנגלית, סינית, יפנית וצרפתית. היתרון הגדול שלו הוא חלון הקשר של 32,768 טוקנים, שמאפשר להזין קבצי קוד שלמים ולא רק פונקציות בודדות.

במבחני ביצועים הוא עוקף מודלים ייעודיים מתחרים. במבחן CoIR הוא השיג ממוצע של 81.77 לעומת 78.53 של Voyage-Code-003 ו־78.20 של CodeXEmbed-7B, למרות שהוא קטן מהם משמעותית. במבחן CodeRAG הוא הגיע לממוצע של 72.8, עם יתרון ברור במשימות מורכבות כמו DS-1000 שבודק ספריות פייתון למדע נתונים, ו־SWE-bench-Lite שמדמה תיקון תקלות מציאותיות מגיטהאב.

מתאים ל

• חיפוש סמנטי במאגרי קוד

  חלון של 32K טוקנים מאפשר לאנדקס קבצים ארוכים ולמצוא לוגיקה לפי תיאור מילולי באנגלית או סינית.

• מערכות RAG לפיתוח תוכנה

  שליפת קטעי קוד רלוונטיים עבור סוכני תכנות, עם תוצאות גבוהות במיוחד במבחן SWE-bench-Lite.

• אחזור רב לשוני לקוד

  התאמת שאילתות טקסט בשפות כמו יפנית או צרפתית אל תוך עשרים שפות תכנות שונות.

איפה זה נופל

למרות ההצלחה במרבית המבחנים, המודל מפגין חולשה במשימות ספציפיות. במבחן Text2SQL הוא קיבל ציון של 64.35, נמוך בהרבה מ־CodeXEmbed-2B שהגיע ל־78.42. אם המטרה שלכם היא להמיר שאלות בטקסט חופשי לשאילתות מסד נתונים, הוא מפגר מאחור. בנוסף, רשימת השפות המוצהרת ממוקדת באנגלית, סינית ושפות נפוצות אחרות, כך שאין שום הבטחה או בדיקה לגבי עברית.

איך מריצים

המשקל הכולל של הקבצים עומד על 5.8 גיגה בייט בדיוק float32, כך שכל כרטיס מסך מודרני עם 8 עד 12 גיגה זיכרון יריץ אותו בקלות. שימוש ב־fp16 מאיץ את החישובים וחוסך זיכרון במחיר ירידה קלה בביצועים, לפי תיעוד המפתחים. אפשר לטעון אותו ישירות דרך ספריית FlagEmbedding או sentence-transformers.

אם אתם מריצים שאילתות על בסיס קוד קיים בתוך הארגון וצריכים פרטיות, הריצה המקומית פשוטה וזולה מאוד. מודלים מסחריים מבוססי שירות חיצוני עדיפים רק כשאין לכם כוח לנהל מכונות עם כרטיסי מסך, או כשהנפח של השאילתות אפסי ולא מצדיק שרת דולק.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("BAAI/bge-code-v1")
v = m.encode(["שלום עולם"])

הקבצים

17 קבצים במאגר, 5.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors1.2 GB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json25.7 KB
• tokenization_qwen.py10.9 KB
• README.md10.6 KB
• tokenizer_config.json7.6 KB
• .gitattributes1.6 KB
• config.json711 B
• added_tokens.json650 B
• special_tokens_map.json365 B
• modules.json349 B
• 1_Pooling/config.json297 B
• config_sentence_transformers.json205 B
• sentence_bert_config.json55 B

הרישיון

המודל שוחרר תחת רישיון apache-2.0. הרישיון הזה מתיר שימוש מסחרי מלא, שינוי של הקוד והמשקלים, והפצה מחדש בתוך מוצרים. הדרישה העיקרית היא שמירה על הודעת זכויות היוצרים והרישיון המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗