Jan-v1-4B

מה זה

הפיתוח הזה מגיע מצוות Jan ומתבסס על המודל Lucy ועל Qwen3-4B-Thinking. המטרה כאן מוגדרת מאוד, הסקת מסקנות, פתרון בעיות ושימוש בכלים בתוך מנגנוני סוכנים. עם ארבעה מיליארד פרמטרים, הוא מנסה לתת מענה לשאלות מורכבות בלי המשקל העצום של מודלי ענק, כשהוא מביא איתו חלון הקשר חריג של 262,144 טוקנים.

במבחן SimpleQA המפתחים מציגים דיוק של 91.1 אחוזים במענה על שאלות עובדתיות. בפועל, המשמעות היא יכולת טובה בשליפת עובדות מדויקות ביחס לגודל שלו, בלי להמציא יותר מדי כשההקשר ברור. הוא נשען על תבנית שיחה ייעודית שכוללת פרומפט מערכת מובנה, ומכוון בעיקר לשיחות ולביצוע משימות שדורשות תכנון צעדים וקריאה לפונקציות חיצוניות דרך ממשק פשוט.

מתאים ל

• סוכן מקומי להפעלת כלים

  הוא אומן לתמוך בקריאות לכלים עם מפענח ייעודי ומתאים להרצה בתוך תוכנות מקומיות.

• שליפת עובדות ומענה טכני

  הדיוק של 91.1 אחוזים בבדיקות עובדתיות הופך אותו לפתרון קל משקל לשאלות ותשובות באנגלית.

• שילוב באפליקציית Jan

  הוא נבנה מראש לעבודה חלקה ומהירה בתוך הממשק של Jan ללא צורך בהגדרות שרת ידניות.

איפה זה נופל

הכרטיס מצהיר על אנגלית בלבד, כך שאין כאן שום תמיכה רשמית בעברית וסביר שהוא יגמגם או ייכשל בניסוחים מורכבים בשפה שלנו. מעבר לזה, הביצועים שלו תלויים לחלוטין בפרומפט המערכת שנמצא בתבנית השיחה המקורית. אם תוותרו עליו ותעברו לתבנית הגולמית, הדיוק שנמדד במבחנים ייפגע בצורה מורגשת.

המפתחים כמעט ולא חושפים נתונים על מבחני השיחה ומציגים רק תמונות בלי פירוט מלא של מדדים אחרים. חלון הקשר של 262 אלף טוקנים נשמע מבטיח, אבל על מודל של 4B קשה להאמין שהוא שומר על קוהרנטיות מלאה בקצוות בלי לאבד פרטים.

אותה משפחה

Jan יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

כדי להריץ אותו מקומית בפורמט המקורי צריך כעשרה ג'יגה בייט של זיכרון גרפי, שכן הקבצים שוקלים 7.7 ג'יגה בייט בפורמט bfloat16. המפתחים מציעים להרים אותו עם vLLM באמצעות שרת מקומי ושימוש במפענח hermes לקריאות כלים, או דרך llama.cpp עם קובצי GGUF מכווצים למי שיש לו פחות זיכרון פנוי.

אם אתם משתמשים באפליקציה של Jan, אפשר לבחור אותו ישירות מהממשק בלי התקנות מורכבות. כדאי להריץ אותו מקומית אם צריכים פרטיות מלאה או עבודה בלי רשת. מצד שני, אם אתם צריכים לפתוח את כל חלון ההקשר המלא של 262 אלף טוקנים, תצטרכו חומרה חזקה בהרבה כדי להחזיק את זיכרון הריצה, ושם כבר עדיף שירות ענן.

from transformers import pipeline

pipe = pipeline("text-generation", model="janhq/Jan-v1-4B")
print(pipe("שלום"))

הקבצים

17 קבצים במאגר, 7.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors5.0 GB
• model-00002-of-00002.safetensors3.1 GB
• demo.gif171.0 MB
• tokenizer.json11.4 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• model.safetensors.index.json32.8 KB
• training_args.bin8.5 KB
• tokenizer_config.json5.4 KB
• chat_template.jinja5.1 KB
• chat_template_raw.jinja4.0 KB
• README.md3.2 KB
• .gitattributes1.7 KB
• config.json729 B
• added_tokens.json707 B
• special_tokens_map.json613 B
• generation_config.json233 B

הרישיון

הפרויקט מופץ תחת רישיון apache-2.0. מותר להשתמש בו לצרכים מסחריים, לשנות את הקוד והמשקלים, לשלב אותו בתוך תוכנה סגורה ולהפיץ אותו הלאה. התנאי היחיד הוא שמירה על הודעת הרישיון המקורית וציון השינויים שביצעתם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗