Qodo-Embed-1-1.5B

מה זה

מדובר במודל ייעודי להמרת קוד לוקטורים שנשען על ארכיטקטורת Qwen2 עם מיליארד וחצי פרמטרים. המטרה המרכזית שלו היא גישור בין טקסט חופשי לקוד, ובין קוד לקוד אחר, בתשע שפות פיתוח נפוצות כמו פייתון, ג'אווה, גו, טייפסקריפט ועוד. הוא מייצר וקטורים באורך 1536, גודל סטנדרטי שמתאים ישר לרוב מסדי הנתונים הוקטוריים בשוק.

לפי הנתונים שפורסמו, הוא עוקף מודלים פתוחים קודמים במבחני הביצועים של COIR ושל MTEB. המשמעות בפועל היא יכולת שליפה מדויקת יותר של קטעי קוד רלוונטיים עבור מערכות RAG, גם כשמדובר במודל קטן יחסית שגוזל פחות משאבים מגרסאות של שבעה מיליארד פרמטרים.

מתאים ל

• חיפוש קוד בשפה חופשית

  מאפשר למפתחים להקליד תיאור של פעולה באנגלית ולקבל את הפונקציה המדויקת מתוך מאגר הקוד של הארגון.

• שליפת הקשר למערכות RAG

  מאתר קטעי קוד רלוונטיים כדי להזין אותם למודל שפה גדול בזמן יצירת בדיקות או תיעוד.

• איתור כפילויות בפרויקטים

  משווה מקטעי קוד מול קוד קיים כדי לזהות מימושים זהים בשפות הנתמכות כמו פייתון וטייפסקריפט.

איפה זה נופל

יש פער ברור בנתונים לגבי חלון ההקשר, כאשר המפרט הטכני מציין 131 אלף טוקנים אבל כרטיס המודל מגביל בפועל לקלט של 32 אלף בלבד. אסור להניח שהוא יבלע קבצי ענק בלי לבדוק איפה מתבצע חיתוך הטקסט. בנוסף, הרשימה כוללת תשע שפות תכנות פופולריות בלבד, כך שאם הקוד שלכם כתוב בשפות כמו ראסט, קוטלין או סוויפט, השליפה עלולה לפספס. הוא גם לא מודל שיחה ולא כותב קוד בעצמו, אלא רק מודד דמיון.

איך מריצים

המשקל הכולל של הקבצים מגיע לכמעט שישה גיגהבייט בדיוק מלא, כך שכרטיס מסך ביתי או שרת ענן פשוט עם שמונה עד שישה עשר גיגהבייט זיכרון יריץ אותו בלי להזיע. הטעינה נעשית ישירות דרך ספריית sentence-transformers הרגילה, בתנאי שמותקנות גרסאות עדכניות של transformers וספריית flash_attn לשיפור מהירויות.

אם יש לכם שרת מקומי או מכונה ייעודית, אין סיבה לשלם לספקי API חיצוניים על כל שאילתה. לעומת זאת, אם אתם צריכים לאנדקס פרויקטים בודדים פעם בחודש ולא רוצים לתחזק כרטיס מסך דולק, שימוש בשירות מנוהל חיצוני יהיה זול ופשוט יותר.

from sentence_transformers import SentenceTransformer

m = SentenceTransformer("Qodo/Qodo-Embed-1-1.5B")
v = m.encode(["שלום עולם"])

הקבצים

19 קבצים במאגר, 5.8 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors1.2 GB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• modeling_qwen.py65.2 KB
• model.safetensors.index.json25.7 KB
• LICENSE17.1 KB
• tokenization_qwen.py10.8 KB
• README.md4.8 KB
• .gitattributes1.6 KB
• tokenizer_config.json1.4 KB
• config.json890 B
• special_tokens_map.json370 B
• 1_Pooling/config.json297 B
• modules.json229 B
• config_sentence_transformers.json220 B
• added_tokens.json80 B
• sentence_bert_config.json55 B

הרישיון

הרישיון הוא QodoAI-Open-RAIL-M ולא רישיון קוד פתוח סטנדרטי כמו MIT או אפאצ'י. מותר להשתמש בו לצרכים פנימיים ומסחריים, אבל הרישיונות ממשפחת RAIL כוללים הגבלות שימוש ספציפיות על תחומים אסורים. חובה לקרוא את נוסח הרישיון המלא לפני שמשלבים אותו במוצר שמפיצים ללקוחות.

הרישיון המלא בעמוד המודל ↗