GPT
הוספת כלי
A

ALLaM-7B-Instruct-preview

קוד פתוח

humain-aiapache-2.02025-02-13

  • transformers
  • safetensors
  • llama
  • text-generation
  • pytorch

מודל שפה דו לשוני בנפח שבעה מיליארד פרמטרים שאומן מאפס על ערבית ואנגלית. הוא מיועד למי שחייב ביצועים חזקים בערבית לצד אנגלית בלי לסחוב משקלים של מודלי ענק.

  • 7Bפרמטרים
  • 4,096טוקנים בהקשר
  • 13.1 GBמשקל הקבצים
  • 9,535הורדות בחודש

מה זה

המודל פותח בסעודיה על ידי המרכז הלאומי לבינה מלאכותית ואומן על 5.2 טריליון טוקנים, מתוכם 4 טריליון באנגלית ו־1.2 טריליון בתערובת של ערבית ואנגלית. בשונה ממודלים שלוקחים בסיס קיים ומוסיפים לו כוונון לערבית, כאן מדובר באימון מלא מאפס שמטרתו למנוע שכחה של האנגלית תוך בניית יכולת שפתית אמיתית בערבית.

במבחני ביצועים בערבית הוא מוביל על פני מתחרים בקטגוריית הגודל שלו ומשיג ממוצע של 64.42, כשהוא עוקף מודלים כמו AceGPT ו־Qwen2.5 בנפח מקביל. החוזק העיקרי שלו מגיע במבחני ידע מקומיים ותוכניות לימוד סעודיות, שם הוא רושם ציונים גבוהים של מעל 91 אחוז, אבל באנגלית הוא מציג ביצועים בינוניים למדי ומשיג ממוצע של 46.85 בלבד.

מתאים ל

  • בוט שירות לקוחות בערבית

    אימון הבסיס הרחב בערבית נותן מענה טבעי ומדויק לשיחות יומיומיות, כל עוד הפניות קצרות וממוקדות.

  • לוקליזציה ותרגום דו כיווני

    השילוב המאוזן של אנגלית וערבית באימון מאפשר המרה שוטפת של תכנים בין שתי השפות ללא שבירת תחביר.

  • חילוץ מידע מטקסטים קצרים

    זיהוי ישויות וסיווג פניות בשפה הערבית מתוך פסקאות קצרות שאינן חורגות ממגבלת חלון ההקשר.

איפה זה נופל

חלון ההקשר קצר מאוד ועומד על 4,096 טוקנים בלבד, מה שפוסל אותו לחלוטין מניתוח מסמכים ארוכים, קריאת קובצי ענק או שיחות מתמשכות. בנוסף, המעקב אחר הוראות מורכבות חלש למדי, עם ציון של 31.34 בלבד במבחן המחמיר של Ar-IFEval, ובאנגלית הוא מציג נפילה חדה במבחני ידע כללי כמו TriviaQA שבו קיבל 16.07 בלבד. לא הייתי משתמש בו למשימות תכנות, פתרון בעיות מתמטיות סבוכות או יישומים שדורשים ידע עולמי רחב באנגלית.

שאלות
נפוצות

האם המודל מתאים ליישומי RAG עם מסמכים ארוכים?

לא. חלון ההקשר מוגבל ל־4,096 טוקנים כולל הפרומפט והתשובה. הוא מתאים לחיפוש בפסקאות בודדות בלבד, אך יקרוס או יחתוך מידע אם תנסו להזין לתוכו מסמכים מרובי עמודים.

האם אפשר להשתמש בו ישירות למשתמשי קצה בלי בדיקות בטיחות?

לא מומלץ. יוצרי המודל מבהירים במפורש שיש לו נטייה לייצר הטיות ותשובות שגויות, ולכן חובה להוסיף שכבת סינון ובקרה לפני שחושפים אותו ללקוחות בעולם האמיתי.

איך מריצים

המשקלים תופסים 13.1 גיגה בייט בדיוק של bfloat16, כך שכדי להריץ אותו בהסקה מקומית תצטרכו כרטיס מסך בודד עם 16 גיגה זיכרון לפחות, כמו RTX 4080 או מקביליו בשרתים. המודל בנוי בארכיטקטורת Llama סטנדרטית ונטען ישירות דרך ספריית transformers של פייתון, עם תמיכה בשתי גרסאות שונות דרך תגיות revision ב־HuggingFace.

אם אתם צריכים רק מענה מהיר מדי פעם ולא רוצים להחזיק שרת ייעודי שפועל רצוף, פנייה ל־API מסחרי תהיה זולה ופשוטה יותר. הרצה עצמית שווה את המאמץ בעיקר כשאתם חייבים שליטה מלאה במידע ופרטיות, או כשיש לכם תשתית קיימת ואתם מריצים נפח שאילתות גדול בערבית.

from transformers import pipeline

pipe = pipeline("text-generation", model="humain-ai/ALLaM-7B-Instruct-preview")
print(pipe("שלום"))

הקבצים

466 קבצים במאגר, 13.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הקוד והמשקלים שוחררו תחת רישיון apache-2.0, שמאפשר שימוש מסחרי חופשי, שינוי של הקוד והפצה פנימית או חיצונית בתוך מוצרים. אין חובה לחשוף את קוד המקור של המוצר שלכם, אך נדרש לשמור על הודעות זכויות היוצרים המקוריות וכתב הוויתור על אחריות.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗