GPT
הוספת כלי
A

Apertus-8B-Instruct-2509

קוד פתוח

swiss-aiapache-2.02025-08-13

  • transformers
  • safetensors
  • apertus
  • text-generation
  • multilingual

מודל פתוח לגמרי של 8.1 מיליארד פרמטרים שמתמחה בתמיכה רחבה בשפות וחלון הקשר גדול. הוא מתאים למי שרוצה קוד ונתוני אימון שקופים לחלוטין לצד רישיון חופשי.

  • 8.1Bפרמטרים
  • 65,536טוקנים בהקשר
  • 15.0 GBמשקל הקבצים
  • 546,825הורדות בחודש

מה זה

המודל הזה מגיע מיוזמה שוויצרית שמציגה שקיפות מלאה, כולל חשיפת סקריפטים ומתכוני האימון שעברו על 15 טריליון טוקנים. הוא תומך בהפעלת כלים, כולל חלון הקשר של 65,536 טוקנים, ומצהיר על תמיכה טבעית ב־1,811 שפות שונות, תחום שבו רוב המודלים הקטנים מתקשים מעבר לאנגלית.

במבחני ביצועים כלליים להבנת שפה הוא קיבל ממוצע של 65.8 נקודות. זה מציב אותו צעד קטן מעל מודלים מוכרים בגודל הזה כמו Llama 3.1 8B שעומד על 65.4 או Qwen 2.5 7B עם 64.4. הוא בולט במיוחד במבחן XCOPA עם ציון של 66.5 מול 61.8 של לאמה, מה שמעיד על היגיון סיבתי חזק יותר במשימות רב־לשוניות.

מתאים ל

  • סוכני שפה עם כלים חיצוניים

    הוא תומך ב־tool use מהקופסה, מתאים לפקודות מוגדרות ולא דורש מודל ענק וכבד.

  • עיבוד מסמכים רב־לשוניים

    חלון של 65 אלף טוקנים ותמיכה במאות שפות מאפשרים לנתח קבצים שלמים בלי לקטוע טקסט.

  • מוצרים עם דרישות שקיפות

    האימון כולו מבוסס על נתונים גלויים ומסמכי תאימות, מה שמקל על רגולציה מחמירה.

איפה זה נופל

היוצרים מודים מפורשות שהפלט עלול להכיל שגיאות עובדתיות, כשלים לוגיים והטיות שמגיעות ממאגרי המידע. בעיה מרכזית נוספת נוגעת לפרטיות, כרגע אין במודל שום מנגנון סינון מובנה לפליטת פרטים אישיים מזוהים. הצוות ממליץ להוריד מסננים חיצוניים שיתעדכנו בהמשך כדי להתמודד עם בקשות מחיקת מידע, כך שאם אתם בונים מוצר שחשוף למידע רגיש, תצטרכו לכתוב שכבת הגנה ואימות משלכם לפני שהטקסט מגיע למשתמש.

שאלות
נפוצות

האם המודל עובד טוב בעברית?

החומר מציין תמיכה בלמעלה מאלף שפות ומציג ביצועים גבוהים במבחנים רב־לשוניים כמו XNLI ו־XCOPA. יחד עם זאת, אין בתיעוד פירוט ספציפי על איכות העברית או היקף המידע בעברית שנכלל באימון, ולכן חובה להריץ בדיקה ידנית של הבנת השפה והתחביר לפני הטמעה.

איך מריצים אותו בצורה חסכונית במשאבים?

אפשר לטעון אותו בעזרת ספריות כמו vLLM או דרך MLX למחשבי Mac. כדי להוריד את דרישות הזיכרון מתחת ל־15 גיגה־בייט מומלץ לבדוק גרסאות קוונטיזציה, ולהקפיד על Transformers בגרסה 4.56.0 לפחות כדי שהארכיטקטורה תזוהה.

איך מריצים

המשקל הכולל של הקבצים עומד על 15 גיגה־בייט בפורמט bfloat16. כדי להריץ אותו מקומית בתצורה מלאה צריך כרטיס מסך עם לפחות 24 גיגה־בייט זיכרון, כמו RTX 3090 או RTX 4090, במיוחד אם מנצלים את מלוא חלון ההקשר. בסביבות Mac אפשר להריץ אותו ישירות עם MLX על מחשבי אפל סיליקון בעלי זיכרון מאוחד מתאים.

המפתחים שחררו תמיכה ישירה דרך Transformers מגרסה 4.56.0 ומעלה, וכן דרך vLLM ו־SGLang לפרודקשן. הם ממליצים על דגימה עם temperature של 0.8 ו־top_p של 0.9. אם אין לכם חומרה ייעודית שתחזיק את כל הזיכרון הזה בעומס, עדיף לפנות ל־API חיצוני שמארח אותו במקום להסתבך עם קריסות זיכרון.

from transformers import pipeline

pipe = pipeline("text-generation", model="swiss-ai/Apertus-8B-Instruct-2509")
print(pipe("שלום"))

הקבצים

16 קבצים במאגר, 15.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון Apache 2.0. זהו רישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי של המשקולות, שילוב במוצרים פרטיים והפצה מחדש, בלי לשלם תמלוגים. התנאי העיקרי הוא שמירה על הודעת זכויות היוצרים והרישיון המקורי בקוד או במוצר שאתם משחררים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗