GPT
הוספת כלי
P

phi-4

קוד פתוח

microsoftmit2024-12-11

  • transformers
  • safetensors
  • phi3
  • text-generation
  • phi

microsoft עומדים גם מאחורי Sho, ויש עליו סקירה כאן.

מודל קומפקטי שמביס מערכות ענקיות במתמטיקה ובמדעים, אבל שומר על גודל שמאפשר הרצה מקומית. הוא פונה למי שצריך היגיון כבד בלי לשלם על שרתים מפלצתיים.

  • 15Bפרמטרים
  • 16,384טוקנים בהקשר
  • 27.3 GBמשקל הקבצים
  • 714,200הורדות בחודש

מה זה

מיקרוסופט אימנה כאן מודל של 14 מיליארד פרמטרים על 9.8 טריליון טוקנים, עם דגש חריג על דאטה סינתטי, ספרי לימוד אקדמיים ושאלות ותשובות. המטרה ברורה, לדחוף יכולות הסקה לרמה של מודלים גדולים בהרבה בלי לנפח את החומרה.

במבחני ביצועים התוצאות מדברות בעד עצמן. במבחן MATH הוא רושם 80.4, ובמבחן המדעי GPQA הוא מגיע ל־56.1, ועוקף בכך מודלים כמו Llama 3.3 של 70B ו־GPT-4o. מנגד, במבחן העובדות SimpleQA הוא צונח לציון 3.0 בלבד, מה שמבהיר מיד את הפער בין היגיון טהור לידע כללי.

מתאים ל

  • פתרון בעיות מתמטיות

    משיג ציון של 80.4 במבחן MATH, ועוקף בקלות מודלים מסחריים גדולים בהרבה.

  • מענה מדעי מורכב

    מתאים לשאלות מחקר ומדע ברמת תואר מתקדם בזכות ציון 56.1 במבחן GPQA.

  • הסקה לוגית מקומית

    מספק יכולות חשיבה מתקדמות על כרטיס מסך בודד בסביבות מוגבלות משאבים.

איפה זה נופל

החולשה הבולטת ביותר היא דיוק עובדתי, עם ציון נמוך במיוחד של 3.0 במבחן SimpleQA, כך שהוא נוטה להמציא עובדות בביטחון רב. הוא אינו מיועד לעבודה רב לשונית, כשדאטה שאינו אנגלית תפס כ־8 אחוזים בלבד מהאימון, מה שהופך שימוש בעברית לבעייתי מאוד. בנוסף, הקוד שלו מתבסס בעיקר על פייתון וחבילות בסיסיות, ולכן כל שימוש בשפות אחרות או בספריות חיצוניות דורש בדיקה ידנית קפדנית.

אותה משפחה

phi-4 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

phi-4-gguf7,849

שאלות
נפוצות

האם המודל מתאים לשימוש בעברית?

הוא לא מומלץ למשימות בעברית. רק 8 אחוזים מנתוני האימון היו רב לשוניים, והכרטיס הרשמי מציין במפורש שהביצועים מחוץ לאנגלית יהיו ירודים.

האם כדאי להסתמך עליו כמאגר ידע ועובדות?

לא. המודל קיבל ציון של 3.0 בלבד בבדיקת SimpleQA, ולכן הוא נוטה להזיות בעובדות יבשות. אם חייבים ידע מדויק, יש לחבר אותו למערכת RAG עם מקורות חיצוניים מאומתים.

איך מריצים

המשקל הכולל של הקבצים עומד על 27.3 ג'יגה בייט בדיוק של bfloat16. כדי לטעון אותו במלואו תצטרכו כרטיס מסך בודד עם 32 ג'יגה זיכרון לפחות, כמו A100 או זוג כרטיסי 24 ג'יגה, במיוחד אם תרצו לנצל את חלון ההקשר המלא שמגיע ל־16,384 טוקנים.

אם אין לכם חומרה כזו זמינה, מומלץ לכמת את המודל לפורמטים קלים יותר או לצרוך אותו ישירות דרך ספקי ענן. הוא נתמך ישירות בספריית transformers באמצעות pipeline גנרי בפורמט שיחה מובנה.

from transformers import pipeline

pipe = pipeline("text-generation", model="microsoft/phi-4")
print(pipe("שלום"))

הקבצים

21 קבצים במאגר, 27.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ ברישיון MIT מלא. אפשר להשתמש בו לצרכים מסחריים, לשנות את המשקלים, לשלב אותו במוצרים סגורים ולהפיץ אותו בחופשיות, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗