GPT
הוספת כלי
P

unsloth/phi-4

קוד פתוח

unslothmit2025-01-08

  • transformers
  • safetensors
  • llama
  • text-generation
  • phi

גרסה מותאמת של מודל הדגל מבית מיקרוסופט שהוסבה לארכיטקטורת לאמה. היא פותרת בעיות תאימות, מייעלת אימונים נוספים ומספקת יכולות חשיבה ומתמטיקה חריגות לגודל של 15 מיליארד פרמטרים.

  • 15Bפרמטרים
  • 16,384טוקנים בהקשר
  • 27.3 GBמשקל הקבצים
  • 3,070הורדות בחודש

מה זה

מיקרוסופט אימנה את הבסיס על 9.8 טריליון טוקנים עם דגש כבד על חומרי לימוד סינתטיים וספרי מדע, וצוות אנלאות' לקח את המשקלים והסב אותם ישירות לארכיטקטורת LlamaForCausalLM. המהלך הזה מאפשר להריץ ולאמן אותו בכלים מוכרים בלי להיתקל בבאגים של הארכיטקטורה המקורית. עם 14.6 מיליארד פרמטרים, המודל הזה מתחרה ישירות בכלים גדולים ממנו בהרבה במשימות שדורשות היגיון טהור.

במבחני מדע ומתמטיקה הוא מציג תוצאות מפתיעות. הוא קיבל 56.1 במבחן GPQA ו־80.4 במבחן MATH, ועקף שם גם מודלים של 70 מיליארד פרמטרים כמו לאמה 3.3 ואפילו את GPT-4o. זה אומר שבמקום לשנן עובדות יבשות, הוא באמת מפרק בעיות הנדסיות ומדעיות מורכבות בצורה מדויקת, כל עוד השיחה מתנהלת באנגלית.

מתאים ל

  • פתרון בעיות מתמטיקה ומדע

    מציג ביצועים יוצאי דופן במבחני היגיון מדעי ומתמטיקה מורכבת יחסית לגודלו.

  • כתיבת סקריפטים בפייתון

    קיבל ציון של 82.6 במבחן HumanEval ומתאים לייצור קוד פייתון מדויק.

  • התאמה אישית על חומרה זולה

    הארכיטקטורה של אנלאות' מאפשרת כוונון מהיר עם צריכת זיכרון נמוכה משמעותית.

איפה זה נופל

הנקודה החלשה ביותר היא ידע עובדתי כללי. במבחן SimpleQA הוא קיבל ציון נמוך של 3.0 בלבד, רחוק מאוד מכל מודל מסחרי מוביל. הוא נוטה להזות עובדות היסטוריות ומידע כללי בקלות, ולכן אסור להסתמך עליו כמקור ידע בלי להצמיד לו מנגנון אחזור מידע מבוסס מסמכים.

בנוסף, המודל אומן בעיקר על אנגלית. טקסט רב לשוני תפס רק כ־8% מנתוני האימון, והכרטיס מציין במפורש שהוא לא נועד לשימוש רב לשוני. אם תנסו לעבוד איתו בעברית, הביצועים שלו יצנחו בצורה מורגשת. גם בקוד יש מגבלה ברורה, שכן רוב האימון התמקד בפייתון עם ספריות סטנדרטיות, ושימוש בשפות אחרות דורש בדיקה קפדנית.

אותה משפחה

phi-4 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

unsloth/phi-4-GGUF11,472

שאלות
נפוצות

האם המודל מתאים ליישומים בעברית?

לא. המודל אומן באופן כמעט בלעדי על אנגלית, כאשר נתונים בשפות אחרות היוו כ־8% בלבד מסך המידע. היוצרים מדגישים שהוא אינו מיועד לפעילות רב לשונית, ובעברית הוא יתפקד ברמה נמוכה בהרבה מיכולותיו המקוריות.

במה שונה הגרסה הזו מהגרסה המקורית של מיקרוסופט?

צוות אנלאות' המיר את המבנה הפנימי של המודל לארכיטקטורת LlamaForCausalLM ותיקן מספר באגים שדווחו במקור. ההמרה הזו פותרת בעיות תאימות עם כלי פיתוח נפוצים ומקלה מאוד על תהליכי אימון נוספים על גבי מעבדים גרפיים סטנדרטיים.

האם כדאי להשתמש בו כבוט מידע שמבוסס על הידע הפנימי שלו?

בשום אופן לא. המודל קיבל ציון של 3.0 במבחן SimpleQA, מה שמעיד על נטייה חריפה להזיות בעובדות יבשות. אם אתם זקוקים לתשובות מדויקות, חובה לשלב אותו במערכת אחזור מידע שתספק לו את הטקסטים הנכונים ישירות לתוך חלון ההקשר.

איך מריצים

המשקלים בגרסה המקורית דורשים הורדה של 27.3 גיגה בייט בדיוק bfloat16. כדי לטעון אותו מלא בזיכרון תצטרכו כרטיס מקצועי עם לפחות 32 או 40 גיגה בייט זיכרון גרפי, כמו A100 או כרטיסים מקבילים בענן. אם אתם רוצים לאמן אותו מחדש, אנלאות' מספקים מחברת קולאב שמריצה את התהליך אפילו על גבי כרטיס T4 צנוע יותר תוך שימוש בחצי מכמות הזיכרון הרגילה.

מי שאין לו תשתית כרטיסים ייעודית ומחפש רק מענה מהיר להודעות בודדות יבזבז המון זמן ומשאבים על הרצה מקומית. עבור שרת פרודקשן קטן, שווה לבדוק גרסאות מכווצות כמו GGUF בארבעה ביט או לפנות לשירות מנוהל שמחזיק את המודל הזה באוויר.

from transformers import pipeline

pipe = pipeline("text-generation", model="unsloth/phi-4")
print(pipe("שלום"))

הקבצים

16 קבצים במאגר, 27.3 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ ברישיון MIT מלא, אחד הרישיונות המתירניים ביותר בעולם התוכנה. מותר להשתמש בו לצרכים מסחריים, לשנות את הקוד, לאמן אותו מחדש ולשלב אותו במוצרים סגורים בלי לשלם תמלוגים, בתנאי ששומרים על הצהרת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗