EuroLLM-22B-Instruct-2512

מה זה

הפרויקט הזה מגיע מקונסורציום אקדמי אירופי במימון האיחוד, במטרה לבנות מודל חופשי שמכיר לעומק את כל השפות הרשמיות ביבשת ועוד כמה שפות בולטות מסביב. הוא עבר אימון על 4 טריליון טוקנים, כולל נתונים מקבילים רבים ומסנני איכות ייעודיים לטקסט רב לשוני. מעבר לגרסת הבסיס, גרסת ההוראות הזו עברה התאמה לשיחה על גבי מאגרים כמו טולו 3 והרמס 3.

לפי כרטיס המודל, בתרחישי תרגום בשפות היעד הוא מתחרה ראש בראש ואף עוקף מודלים כמו קוון 32B וג'מה 27B. זה אומר שבמשימות עיבוד ותרגום באירופית הוא מפיק פלטים טבעיים ומדויקים יותר מרוב המתחרים בנפח שלו, בלי לגרור משקל מנופח של 70 מיליארד פרמטרים.

מתאים ל

• תרגום מסמכים באירופה

  הוא מציג ביצועים שמשתווים למודלים כבדים בהרבה בכל שפות האיחוד, מה שמבטיח איכות תרגום גבוהה.

• סוכן תמיכה רב לשוני

  עבר כוונון ייעודי למעקב אחר הוראות ומסוגל לענות למשתמשים בלמעלה משלושים שפות שונות.

• הטמעה מקומית בענן פרטי

  רישיון חופשי לחלוטין שמאפשר לארגונים להריץ אותו אצלם ללא תלות בספקי צד שלישי.

איפה זה נופל

הכרטיס מצהיר בפירוש שהמודל לא עבר תהליך יישור להעדפות אנושיות, כמו RLHF. המשמעות ברורה: הוא נוטה להזיות, עשוי לייצר תוכן פוגעני או שגוי עובדתית, ולא מרוסן כמו מודלים מסחריים רגילים. בנוסף, חלון ההקשר שלו נעצר ב־32 אלף טוקנים, כך שהוא לא בנוי לספרים שלמים או מסדי קוד ענקיים. לקהל המקומי, עברית כלל אינה ברשימת השפות הנתמכות שלו, ואסור לבנות עליו לפרויקטים בעברית.

איך מריצים

בגודל של קצת יותר מ־22 מיליארד פרמטרים ובדיוק של bfloat16, המשקלים תופסים כ־42 ג'יגה בייט על הדיסק. כדי להריץ אותו מקומית בלי לאבד איכות תצטרכו כרטיס מקצועי של 48GB כמו A6000 או צמד כרטיסי 24GB. אם תבצעו קוונטיזציה ל־4 ביט, אפשר יהיה לדחוף אותו לכרטיס בודד של 16GB עד 24GB, אבל זה ידרוש המרה מראש דרך ספריות ייעודיות.

הקוד הבסיסי פשוט ועובד ישר מתוך ספריית transformers עם הטוקנייזר והפונקציה generate. אם אתם צריכים רק שאילתות בודדות או בדיקות היתכנות, כרגע אין לו שירות ענן מנוהל ישיר בכרטיס, כך שתצטרכו להרים שרת מבוסס vLLM בעצמכם על מכונה שכורה לשעה במקום לשלם לפי קריאת API.

from transformers import pipeline

pipe = pipeline("text-generation", model="utter-project/EuroLLM-22B-Instruct-2512")
print(pipe("שלום"))

הקבצים

20 קבצים במאגר, 42.2 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00004-of-00010.safetensors5.0 GB
• model-00007-of-00010.safetensors5.0 GB
• model-00005-of-00010.safetensors5.0 GB
• model-00008-of-00010.safetensors5.0 GB
• model-00003-of-00010.safetensors4.9 GB
• model-00006-of-00010.safetensors4.9 GB
• model-00002-of-00010.safetensors4.9 GB
• model-00001-of-00010.safetensors4.9 GB
• model-00009-of-00010.safetensors4.3 GB
• model-00010-of-00010.safetensors1.6 GB
• tokenizer.json15.8 MB
• tokenizer.model2.4 MB
• EuroLLM_Public_Summary.pdf234.0 KB
• tokenizer_config.json47.3 KB
• model.safetensors.index.json40.3 KB
• README.md10.7 KB
• .gitattributes1.6 KB
• config.json680 B
• special_tokens_map.json443 B
• generation_config.json132 B

הרישיון

רישיון אפאצ'י 2.0 מלא וחופשי. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, לאמן עליו מודלים פנימיים ולשלב אותו במוצרים סגורים בלי תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗