GPT
L

Llama-3.3-8B-Instruct

קוד פתוח

allura-forgellama3.32025-12-30

  • safetensors
  • llama

גרסה נדירה של מודל שמונה מיליארד פרמטרים שחולצה מתוך הממשק של מטא ומציגה קפיצה ביכולות מול הדור הקודם. מתאים למי שמחפש משקל קל עם ביצועים של דור מתקדם יותר.

  • 8Bפרמטרים
  • 8,192טוקנים בהקשר
  • 15.0 GBמשקל הקבצים
  • 206הורדות בחודש

מה זה

מטא מעולם לא שחררה רשמית את הגרסה הקטנה של לאמה שלוש נקודה שלוש להורדה ישירה, והיא הייתה נעולה מאחורי השרתים שלהם. המעלה חילץ את המשקלים דרך תהליך כוונון והסרת המתאם, וכך קיבלנו את המודל המקורי. הוא שומר על מבנה סטנדרטי של שמונה מיליארד פרמטרים ומשקל קבצים מלא של חמישה עשר ג'יגה בייט.

בבדיקות השוואה מול לאמה שלוש נקודה אחת באותו סדר גודל, המודל הזה מציג קפיצה ברורה. במבחן הבנת ההוראות הוא עולה מציון של שבעים ושמונה לשמונים ושתיים בערך, ובמבחן ההיגיון המדעי הקשה הוא קופץ מעשרים ותשע ל שלושים ושבע. זה אומר שהוא מבין דקויות טוב יותר ומדויק יותר בהסברים מורכבים.

מתאים ל

  • ביצוע הוראות מורכבות

    הוא השיג ציון גבוה משמעותית במבחן הבנת ההוראות ביחס למודלים בגודל דומה.

  • פתרון בעיות מדעיות

    הציון שלו במבחני היגיון וידע מדעי מציג שיפור חד של כמעט שמונה נקודות מהגרסה הקודמת.

  • עבודה עצמאית מקומית

    המשקל הקל יחסית מאפשר להריץ אותו על חומרה מקומית רגילה בלי לפגוע באיכות.

איפה זה נופל

חלון ההקשר פה מוגבל לשמונת אלפים טוקנים בלבד, בניגוד לגרסה המלאה של הדור הזה שמגיעה למאה עשרים ושמונה אלף. יש גם שאלות סביב המקור שלו, כי חלק מקובצי ההגדרה הפנימיים מצביעים על הדור הראשון של לאמה שלוש. תבדקו היטב אם המודל יציב מספיק לצרכים שלכם ולא מפתח הזיות בחלונות ארוכים.

שאלות
נפוצות

זה באמת מודל מקורי של מטא?

המעלה חילץ את המשקלים ישירות מתוך ממשק הכוונון של מטא והסיר את המתאם שנוסף בתהליך. המבחנים שלו מראים ביצועים גבוהים יותר מלאמה שלוש נקודה אחת, מה שמחזק את ההנחה שזה אכן המודל הזה.

למה חלון ההקשר עומד רק על שמונת אלפים טוקנים?

המערכת שממנה הורד המודל הגבילה את החלון לשמונת אלפים טוקנים בלבד עבור הגרסה לכוונון. קיימות גרסאות ברשת שמרחיבות את ההקשר בעזרת שינוי הגדרות, אך הגרסה הזו מגיעה בדיוק כמו שחולצה.

איך מריצים

כדי להריץ את המודל המקורי בצורה מלאה תצטרכו כרטיס מסך עם לפחות שישה עשר עד עשרים ג'יגה זיכרון גרפי, כמו אר טי איקס שלושים ותשעים או ארבעים ותשעים. אפשר לחסוך מקום עם כימות לארבע או שמונה ביט כדי לדחוף אותו למחשב אישי עם כרטיס צנוע יותר.

אם אתם צריכים רק גישה מהירה דרך רשת בלי לנהל תשתית, עדיף להשתמש בשרת שמציע מודלים מוכנים. לעומת זאת, אם אתם רוצים את המודל מקומית על הברזלים שלכם ללא תלות ברשת, הקבצים כאן נותנים לכם את המשקלים הגולמיים לעבודה ישירה.

pip install -U huggingface_hub
hf download allura-forge/Llama-3.3-8B-Instruct

הרישיון

הרישיון הוא רישיון הקהילה של לאמה שלוש נקודה שלוש מבית מטא. הוא מאפשר שימוש מסחרי, הפצה מחדש והרצה במוצרים, בתנאי שעומדים בכללי השימוש המקובלים של מטא ומציינים את זכויות היוצרים שלהם.

  • שימוש מסחרי עד 700 מיליון משתמשים
  • שינוי הקוד
  • חובת ייחוס

הרישיון המלא בעמוד המודל ↗