Osmosis-Structure-0.6B

מה זה

במקום לתת למודל שפה ענק לכתוב JSON שלם ולהסתכן בהזיות תחביר, הרעיון כאן הוא לקחת טקסט חופשי או שלבי חשיבה, ולהשתמש במודל של 596 מיליון פרמטרים שמתמקד אך ורק בחילוץ הערכים לשדות הנדרשים.

הוא נבנה על בסיס Qwen3-0.6B ועבר למידת חיזוק מול כחצי מיליון דוגמאות של מיפוי בין שפה טבעית ל־JSON. המפתחים מציגים קפיצות דיוק מרשימות במבחני מתמטיקה כמו DAPO 17K ו־AIME, אבל חשוב לשים לב שהטבלאות מציגות בעיקר איך הטכניקה הזו מקפיצה מודלים גדולים כמו Claude ו־GPT-4.1 כשמשלבים אותה בתהליך, ולא בהכרח את הציון העצמאי שלו לבד.

מתאים ל

• חילוץ נתונים ל־JSON

  הפיכת טקסט חופשי או דוחות לפלט מובנה וקשיח לפי סכמה מוגדרת מראש.

• עיבוד שלבי חשיבה

  קבלת פלט של מודל חשיבה אחר והמרת התוצאה הסופית לשדות מוגדרים.

• הסקה מהירה במכשיר קצה

  הפעלת מנוע פלט מובנה על חומרה מקומית חלשה יחסית בלי תלות ברשת.

איפה זה נופל

המודל הזה לא נועד לנהל שיחה, לכתוב מאמרים או להבין הקשרים מורכבים בעצמו. הוא מתבסס לחלוטין על מנועי הסקה שמכתיבים לו את המבנה, וכרטיס המודל לא מציג שום מדד ביצועים של המודל הקטן בפני עצמו אלא רק את השיטה כולה על גבי מודלי ענק. לפני שמשלבים אותו במוצר, חובה לבדוק איך הוא מתמודד עם טקסטים בעברית, שכן אין שום מידע על אימון רב־לשוני בחומר.

איך מריצים

בגודל של קצת יותר מחצי מיליארד פרמטרים ומשקל קבצים של 5.1 גיגה בייט, אפשר להריץ אותו כמעט על כל כרטיס מסך בסיסי או מחשב מקומי בלי להזיע. המפתחים ממליצים להרים אותו ישירות מעל SGLang בפקודת שרת פשוטה, או לטעון אותו דרך Ollama.

אם אתם צריכים רק מדי פעם לחלץ שדות מטקסט, אין סיבה להחזיק תשתית דולקת ועדיף לשלוח קריאה ל־API חיצוני. היתרון בהרצה עצמית כזו מגיע כשמריצים עשרות אלפי בקשות במקביל ורוצים אפס עלויות ענן פר טוקן וזמני תגובה מיידיים.

ollama run hf.co/osmosis-ai/Osmosis-Structure-0.6B:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

20 קבצים במאגר, 5.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors2.4 GB
• Osmosis-Structure-0.6B-BF16.gguf1.2 GB
• jsonsft-0.6b.Q8_0.gguf639.4 MB
• jsonsft-0.6b.Q6_K.gguf495.1 MB
• jsonsft-0.6b.Q4_K_M.gguf396.7 MB
• jsonsft-0.6b.Q3_K_L.gguf368.5 MB
• tokenizer.json11.4 MB
• output.gif8.5 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• hfbadge.svg8.3 KB
• README.md6.3 KB
• tokenizer_config.json5.4 KB
• chat_template.jinja4.2 KB
• .gitattributes1.7 KB
• config.json726 B
• added_tokens.json707 B
• special_tokens_map.json613 B
• generation_config.json214 B
• .gitignore29 B

הרישיון

הוא מופץ תחת רישיון apache-2.0. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להריץ אותו אצלכם בשרתים ולשלב אותו בקוד סגור, כל עוד שומרים על הודעת הרישיון וזכויות היוצרים המקוריות.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗