GPT
הוספת כלי
Q

Qwen2.5-Math-1.5B-Instruct

קוד פתוח

Qwenapache-2.02024-09-16

  • transformers
  • safetensors
  • qwen2
  • text-generation
  • chat

יש כאן גם סקירה על Qwen עצמו.

מודל קטן וממוקד לפתרון בעיות מתמטיקה באנגלית ובסינית. הוא מיועד למי שרוצה להריץ מודל חשיבה מקומית על לפטופ רגיל או שרת זול בלי לשלם על מודלי ענק.

  • 1.5Bפרמטרים
  • 4,096טוקנים בהקשר
  • 2.9 GBמשקל הקבצים
  • 264,600הורדות בחודש

מה זה

במקום לנסות לדעת הכל, לקחו כאן מודל של 1.5 מיליארד פרמטרים ואימנו אותו רק על מתמטיקה. הגרסה הזו כוללת כוונון הוראות, כך שאפשר לתת לו שאלות ישירות והוא יענה צעד אחר צעד, או ישלב קוד כדי לחשב תוצאות מדויקות.

ההישג העיקרי פה הוא שימוש בהסקה משולבת כלים, שבה המודל נעזר בהרצת קוד לחישובים מורכבים כמו מציאת שורשים או ערכים עצמיים. במבחן MATH עם שילוב כלים הוא מגיע לציון של 79.7, תוצאה חריגה מאוד למשקל קבצים של פחות משלושה גיגה בייט.

מתאים ל

  • מנוע בדיקת שיעורי בית

    פותר ומנתח תרגילי מתמטיקה באנגלית צעד אחר צעד על גבי שרת מקומי וזול.

  • מחשבון אלגברי עם קוד

    מבצע חישובים סמבוליים ואלגוריתמיים בעזרת שילוב כלי הרצה ישירות במערכת שלכם.

  • הסקה מתמטית במכשירי קצה

    גודל קבצים קטן של פחות משלושה גיגה שמאפשר הרצה ללא חיבור רשת.

איפה זה נופל

המפתחים מזהירים במפורש: המודל נועד למתמטיקה בלבד ובשפות אנגלית וסינית. אל תנסו לבקש ממנו לסכם מאמר, לכתוב מייל או לפתור בעיות מילוליות בעברית, כי הוא יכשל. בנוסף, חלון ההקשר קצר ועומד על 4,096 טוקנים בלבד, מה שמגביל חישובים ארוכים במיוחד.

אותה משפחה

Qwen2.5-Math יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Qwen2.5-Math-1.5B466,070 Qwen2.5-Math-7B-Instruct52,853 Qwen2.5-Math-7B47,477

שאלות
נפוצות

האם המודל מבין שאלות מתמטיות בעברית?

הכרטיס מציין תמיכה באנגלית ובסינית בלבד. אם תזינו שאלה בעברית הוא כנראה יתבלבל או יחזיר תשובה שגויה. עדיף לתרגם את השאלה לאנגלית לפני השליחה.

מה ההבדל בינו לבין הגרסה ללא המילה Instruct?

גרסת ה־Instruct עברה כוונון מיוחד כדי לשוחח ולענות להוראות ישירות. גרסת הבסיס ללא התוספת מיועדת בעיקר למפתחים שרוצים לאמן עליה מודל חדש משלהם.

איך מריצים

עם משקל כולל של 2.9 גיגה בייט בפורמט bfloat16, המודל רץ בקלות על כמעט כל כרטיס מסך ביתי עם 4 עד 6 גיגה זיכרון, ואפילו ישירות על מעבד של מחשב נייד. כל מה שצריך זה ספריית transformers מגרסה 4.37.0 ומעלה.

אם אתם צריכים לפתור תרגיל בודד פעם ביום, אין סיבה להקים תשתית ועדיף לפנות למודל גדול דרך API. אבל אם אתם רוצים עיבוד מקומי, פרטי ומהיר של אלפי שאלות במחיר אפסי, שווה להריץ אותו עצמאית.

from transformers import pipeline

pipe = pipeline("text-generation", model="Qwen/Qwen2.5-Math-1.5B-Instruct")
print(pipe("שלום"))

הקבצים

10 קבצים במאגר, 2.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הקוד והמשקלים שוחררו תחת רישיון apache-2.0. מותר להשתמש במודל לצרכים מסחריים, לשנות אותו, לארח אותו או להטמיע אותו במוצר שלכם, כל עוד שומרים על תנאי הרישיון ומתן הקרדיט המקורי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗