GPT
Q

Qwen2.5-Math-1.5B

קוד פתוח

Qwenapache-2.02024-09-16

  • transformers
  • safetensors
  • qwen2
  • text-generation
  • conversational

יש כאן גם סקירה על Qwen עצמו.

זהו מודל בסיס קטן וממוקד לפתרון בעיות מתמטיקה באנגלית ובסינית. הוא מעניין את מי שמחפש בסיס לאימון מודל מתמטי עצמאי בלי להחזיק שרתים כבדים.

  • 1.5Bפרמטרים
  • 4,096טוקנים בהקשר
  • 2.9 GBמשקל הקבצים
  • 466,070הורדות בחודש

מה זה

מדובר במודל בסיס שנועד בעיקר להשלמת טקסט, הסקת מסקנות עם דוגמאות בודדות, ובסיס להתאמה אישית. הוא נבנה לפתרון בעיות מתמטיות באמצעות שרשרת מחשבה ושילוב כלים חישוביים חיצוניים. בשונה מגרסאות קודמות שתמכו רק באנגלית, הסדרה הזו מרחיבה את הפתרון גם לסינית ומשלבת קריאות לפונקציות כדי למנוע טעויות בחישובים מורכבים כמו מציאת ערכים עצמיים של מטריצות.

היוצרים מציינים שגרסת ההוראות המקבילה בגודל הזה מגיעה לתוצאה של 79.7 במבחן MATH בעזרת שילוב כלים. זה מעיד שהארכיטקטורה הזו, למרות הגודל הצנוע של מיליארד וחצי פרמטרים בלבד, מצליחה להתמודד עם חישובים ואלגוריתמים ברמה גבוהה מאוד ביחס למשקל שלה.

מתאים ל

  • בסיס לאימון מודל מתמטי

    משמש נקודת מוצא מצוינת להתאמה אישית על דאטה מתמטי ייעודי.

  • פתרון בעיות באנגלית ובסינית

    מתאים לצירוף דוגמאות בודדות כדי לחלץ חישובים באנגלית או בסינית.

  • מחקר על שילוב כלים

    מאפשר לבדוק שיטות להפעלת כלי חישוב חיצוניים במודל קל משקל.

איפה זה נופל

היוצרים מזהירים במפורש לא להשתמש בסדרה הזו למשימות שאינן מתמטיקה. הוא לא מיועד לשיחה כללית, לא לכתיבת קוד רגיל ולא ליצירת טקסט חופשי. נוסף לכך, חלון ההקשר עומד על 4,096 טוקנים בלבד, כך שהוא לא יחזיק מסמכים ארוכים או תהליכי הוכחה מפותלים מאוד. אין פה תמיכה בעברית, והמודל עובד רק באנגלית ובסינית.

אותה משפחה

Qwen2.5-Math יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם המודל הזה מתאים לשיחה או לצ'אטבוט?

לא. מדובר במודל בסיס שמשלים טקסט ולא עבר אימון הוראות. לשיחה יש להשתמש בגרסת ה־Instruct של אותה סדרה.

האם אפשר להשתמש בו לפתרון בעיות בעברית?

לא. הכרטיס מציין תמיכה באנגלית ובסינית בלבד, והוא לא אומן להתמודד עם שאלות בעברית.

איך מריצים

במשקל של 2.9 גיגה-בייט, אפשר להריץ אותו בקלות על מעבד גרפי ביתי פשוט, לפטופ עם כרטיס סביר, או אפילו על מעבד מרכזי בלי להיחנק. צריך רק לוודא שמותקנת ספריית transformers בגרסה 4.37.0 ומעלה, כי לפניה אין תמיכה בארכיטקטורה הזו.

זהו מודל בסיס ולא גרסת שיחה, לכן לא שואלים אותו שאלות ישירות. אם אתם צריכים עוזר מתמטי מוכן לפעולה או מענה מיידי בצ'אט, חפשו את גרסת ההוראות או שתפנו לשירותי ענן.

from transformers import pipeline

pipe = pipeline("text-generation", model="Qwen/Qwen2.5-Math-1.5B")
print(pipe("שלום"))

הרישיון

הוא מופץ תחת רישיון apache-2.0, שמאפשר שימוש מסחרי, שינוי קוד, הפצה והטמעה במוצרים סגורים בלי לשלם תמלוגים. התנאי העיקרי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקבצים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗