context-1

מה זה

במקום לתת למודל ענק ויקר לסרוק מאגרי מידע, מריצים מודל ייעודי קטן יותר שמתמקד רק באיתור החומר. הוא מפרק שאלות עם כמה תנאים לתתי-שאילתות, מריץ בממוצע 2.56 קריאות לכלים בכל סיבוב וחוסך סבבי שיחה מיותרים. המבנה שלו מבוסס תערובת מומחים מעל gpt-oss-20b, עם אימון שכלל חיזוקים בשלבים.

החידוש המרכזי כאן הוא היכולת לחתוך מסמכים לא רלוונטיים מתוך ההקשר תוך כדי עבודה, בדיוק של 0.94. זה מונע סתימה של הזיכרון ומאפשר לו להמשיך לחקור שאלות עמוקות בלי לאבד את הידיים והרגליים. הוא אומן על משימות רשת, משפט וכספים, ונבדק על מבחנים כמו BrowseComp-Plus, SealQA, FRAMES ו־HLE.

מתאים ל

• תת סוכן לשליפת מידע

  הוא מריץ חיפושים מקבילים עבור מודל חשיבה ראשי וחוסך זמן יקר.

• מחקר משפטי ופיננסי

  אומן במיוחד על נתונים מורכבים עם שאלות שמחייבות כמה שלבי בדיקה.

• חיפוש רב שלבי ברשת

  יודע לפרק שאילתה מסובכת לכמה חיפושים קטנים ולנפות תוצאות זבל.

איפה זה נופל

הבעיה המרכזית כרגע היא שלבד הוא חצי כוח. המפתחים מודים בפירוש שהמודל אומן לעבוד בתוך מעטפת סוכן שמנהלת את הכלים, תקציב הטוקנים, הניקוי והסרת הכפילויות, והמעטפת הזו עדיין לא פתוחה לציבור. בלי המערכת הזו, לא תקבלו את הביצועים שמופיעים בדוח הטכני. מי שמתכנן לשלב אותו עכשיו יצטרך לבנות את כל לוגיקת הניהול בעצמו לפי הדוח, או לחכות שהם ישחררו את הקוד.

איך מריצים

המשקל עומד על 39.0 גיגה-בייט בפורמט BF16, כך שצריך כרטיס גרפי עם מספיק זיכרון כדי לטעון אותו דרך transformers. המפתחים הבטיחו גרסה מכווצת בפורמט MXFP4, אבל כרגע זו הגרסה היחידה שיש.

אם אין לכם תשתית חומרה מתאימה להחזיק מודל כזה מקומית, עדיף להמתין לשירות ענן שמנגיש אותו. להריץ אותו סתם כך על שרת בלי כרטיס מתאים יעלה לכם בביצועים איטיים מאוד.

from transformers import pipeline

pipe = pipeline("text-generation", model="chromadb/context-1")
print(pipe("שלום"))

הקבצים

12 קבצים במאגר, 39.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors41.8 GB
• .ipynb_checkpoints/tokenizer-checkpoint.json27.9 MB
• tokenizer.json27.9 MB
• chat_template.jinja15.1 KB
• README.md2.4 KB
• .gitattributes1.7 KB
• .ipynb_checkpoints/config-checkpoint.json1.6 KB
• config.json1.6 KB
• .ipynb_checkpoints/tokenizer_config-checkpoint.json352 B
• tokenizer_config.json352 B
• generation_config.json171 B
• .ipynb_checkpoints/generation_config-checkpoint.json159 B

הרישיון

הרישיון הוא Apache 2.0 מלא. אפשר להשתמש בו לצרכים מסחריים, לשנות אותו, להטמיע במוצרים סגורים ולהפיץ הלאה. התנאי היחיד הוא שמירה על זכויות היוצרים והודעת הרישיון המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗