GPT
הוספת כלי
P

Phi-4-mini-reasoning

קוד פתוח

microsoftmit2025-04-29

  • transformers
  • safetensors
  • phi3
  • text-generation
  • nlp

microsoft עומדים גם מאחורי Sho, ויש עליו סקירה כאן.

פתרון בעיות מתמטיקה וחשיבה רב שלבית בקובץ של 7.2 גיגה בייט. מקבלים יכולת היסק של מודלים גדולים בהרבה ישירות על חומרה קומפקטית.

  • 3.8Bפרמטרים
  • 131,072טוקנים בהקשר
  • 7.2 GBמשקל הקבצים
  • 57,610הורדות בחודש

מה זה

מיקרוסופט לקחה את מודל הבסיס שלה ואימנה אותו בשיטת זיקוק על נתונים סינתטיים שנוצרו על ידי דיפסיק אר אחת. המטרה כאן מוגדרת מאוד. המודל לא מתיימר לדעת הכל, אלא להוביל פתרון צעד אחר צעד בבעיות לוגיות מורכבות, הוכחות פורמליות וחישובים סימבוליים.

במדד המתמטיקה של חמש מאות בעיות הוא הגיע לציון של 94.6, ובמבחן התחרותי של איימי הוא עומד על 57.5. זה שם אותו מעל מודלים פתוחים של שבעה ושמונה מיליארד פרמטרים, ואפילו קרוב מאוד לביצועים של או אחת מיני. היתרון הגדול שלו הוא שילוב של חלון הקשר של 128 אלף טוקנים בתוך נפח שמאפשר להריץ אותו מקומית על מחשבי קצה.

ההבדל מול מודלים קלים רגילים נובע מזה שהוא אומן על מסלולי חשיבה ארוכים ומאומתים. כששואלים אותו שאלה, הוא פורס תהליך לוגי מלא במקום לנסות לנחש את התשובה הסופית מיד, מה שמצמצם שגיאות חישוב טיפוסיות.

מתאים ל

  • פתרון תרגילי מתמטיקה

    מפרק בעיות מורכבות לצעדים מוסברים ברמת דיוק גבוהה יחסית לגודל שלו.

  • מנוע הוכחות למכשירי קצה

    מאפשר חישובים סימבוליים ואנליטיים מקומית על חומרה חלשה בלי גישה לענן.

  • עוזר הוראה במדעים

    עוקב אחרי הגיון של משוואות ומשוב לתלמידים בתוך מערכות למידה עצמאיות.

איפה זה נופל

המודל הזה אומן ונבדק על מתמטיקה בלבד ובשפה האנגלית. הוא פשוט לא מכיל מספיק מקום לזיכרון עובדתי רחב, ולכן הוא מייצר הזיות בקלות אם שואלים אותו על היסטוריה, מדע כללי או מידע על בחירות. הקוד שהוא מייצר מוגבל בעיקר לחבילות בסיסיות של פייתון כמו מאת' או רנדום, וכשהשיחות מתארכות מעבר לכמה תורות הוא נוטה לחזור על עצמו ולאבד עקביות. בעברית הביצועים יורדים משמעותית.

שאלות
נפוצות

האם אפשר להשתמש במודל הזה כעוזר כללי בעברית?

לא מומלץ בכלל. האימון שלו התמקד באנגלית ובמתמטיקה בלבד. מעבר לפערי השפה, אין לו את הידע הכללי שנדרש כדי לענות על שאלות יומיומיות, והוא ימציא עובדות.

איך אפשר להתגבר על חוסר הידע הכללי שלו?

הפתרון שהכרטיס מציין הוא לחבר אותו למנוע חיפוש או למאגר מידע בתצורת אר איי ג'י. כשהמידע מוזרם אליו ישירות בהקשר, הוא יודע להפעיל עליו את הלוגיקה שלו בצורה טובה.

איך מריצים

כדי להריץ אותו צריך כרטיס גרפי תומך עם לפחות עשרה גיגה בייט זיכרון וידאו בשביל משקל המודל של 7.2 גיגה בייט והקשר סביר. ברירת המחדל דורשת פלאש אטנשן וכרטיסים מודרניים כמו איי מאה או אייץ' מאה, אבל אפשר להפעיל אותו גם על כרטיסים ישנים יותר אם משנים בהגדרות את מנגנון הקשב לחישוב ישיר.

אם כל מה שאתם צריכים זה ניתוח מתמטי מזדמן בלי דרישות פרטיות מקומיות, עדיף פשוט לקרוא לו דרך הענן של אזור. הרצה עצמאית נותנת יתרון רק כשחייבים לעבוד בלי רשת, במערכות אמבدد או כדי לחסוך עלויות תעבורה גבוהות.

from transformers import pipeline

pipe = pipeline("text-generation", model="microsoft/Phi-4-mini-reasoning")
print(pipe("שלום"))

הקבצים

20 קבצים במאגר, 7.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא רישיון אם איי טי פתוח לחלוטין. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להטמיע אותו במוצרים פנימיים או למכור שירותים שמבוססים עליו, בלי לשלם תמלוגים. התנאי היחיד הוא שמירת הודעת זכויות היוצרים המקורית של מיקרוסופט בקבצי התוכנה.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗