GPT
הוספת כלי
Q

Quasar-10B

קוד פתוח

silx-aiapache-2.02026-03-09

  • transformers
  • safetensors
  • quasar
  • text-generation
  • silx-ai

מודל בסיס שמשלב ארכיטקטורה ליניארית עם חלון של שני מיליון טוקנים. הוא נבנה על גבי Qwen3.5 כדי לעבד כמויות מידע עצומות ביעילות גבוהה ובלי לשבור את הזיכרון.

  • 8.6Bפרמטרים
  • 2,097,152טוקנים בהקשר
  • 16.0 GBמשקל הקבצים
  • 1,306הורדות בחודש

מה זה

במקום להסתמך על מנגנון תשומת הלב הרגיל והכבד, החליפו כאן את השכבות בארכיטקטורת תשומת לב ליניארית עם שערים והסירו לחלוטין קידודי מיקום. הבסיס מגיע מתוך Qwen3.5-9B, אבל המבנה שונה מהיסוד דרך זיקוק שכבות ואימון ייעודי על טקסטים ארוכים במיוחד. הרעיון הוא לתת למודל להתנהג כמו מודל נשנה עם יעילות חישובית ליניארית, כך שהעלות לא תזנק בריבוע ככל שהטקסט מתארך.

האימון התמקד בתחומי מדעים, קוד ומתמטיקה מתוך מאגר ממוקד של נמוטרון, לצד תמיכה מובנית באנגלית ובערבית. מעבר לעיבוד ישיר, המפתחים מייעדים אותו בעיקר כמנוע בסיס ליצירת נתוני חשיבה סינתטיים ולהעברת ידע למודלים מורכבים יותר שהם מפתחים.

מתאים ל

  • ייצור נתוני אימון

    יצירת דאטה סינתטי למשימות חשיבה וקוד ארוכות, כפי שהמפתחים מייעדים לו.

  • ניתוח מאגרי קוד ענקיים

    טעינת פרויקטים שלמים לתוך ההקשר הרחב כדי לבצע ניתוח מבני יעיל.

  • עיבוד מסמכים בערבית ובאנגלית

    סריקה וניתוח של ארכיונים וספרים שלמים בשפות הנתמכות ללא פיצול לקטעים.

איפה זה נופל

מדובר במודל בסיס ולא במודל שעבר התאמה לשיחה או להנחיות, כך שהוא פשוט ימשיך את הטקסט ולא יענה לשאלות ישירות מהקופסה. בנוסף, חלון של שני מיליון טוקנים ללא קידודי מיקום מסורתיים דורש בדיקה מעשית של איכות השליפה, כי שינויים ארכיטקטוניים כאלה עלולים לפגוע בדיוק על פני מרחקים גדולים. כמו כן, הרשימה הרשמית כוללת רק אנגלית וערבית, כך שאין שום הבטחה לגבי ביצועים בעברית.

אותה משפחה

Quasar יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Quasar-Preview143

שאלות
נפוצות

האם המודל מוכן לעבודה בצ'אט?

לא. זהו מודל בסיס שלא עבר אימון להוראות, ולכן הוא ממשיך טקסטים ולא מנהל שיחה ישירה. כדי לקבל תשובות לשאלות תצטרכו לאמן אותו על דאטה של שיחות או להשתמש בשיטות פקודה מתאימות.

האם הוא יעבוד טוב בעברית?

השפות המוצהרות בכרטיס המודל הן אנגלית וערבית בלבד. ייתכן שהוא מכיר מעט עברית בזכות משקלי הבסיס של קוון, אבל אי אפשר להסתמך על זה למשימות קריטיות בלי לבדוק אותו מראש.

איך מריצים

המשקל הכולל של הקבצים עומד על 16 גיגה בייט, מה שאומר שצריך כרטיס מסך מודרני עם לפחות 24 גיגה זיכרון כדי להעלות אותו ברמת דיוק מלאה, או להסתמך על כימות כדי לדחוף אותו לחומרה צנועה יותר. המפתחים מציינים במפורש שהוא מותאם לעבודה על חומרת בלקוול של אנבידיה עם עיבוד בחלוקה למקטעים, כך שמי שמכוון לנצל את מלוא החלון יצטרך תשתית חזקה מאוד.

אם אתם רוצים רק לבדוק שאילתות קצרות ולא מתכננים לעבד ספרים שלמים או מסדי קוד ענקיים ברצף, אין היגיון להחזיק שרת ייעודי כזה בחשבון הענן. במקרים כאלה עדיף לגשת למודלים סטנדרטיים דרך ספק צד שלישי.

from transformers import pipeline

pipe = pipeline("text-generation", model="silx-ai/Quasar-10B")
print(pipe("שלום"))

הקבצים

11 קבצים במאגר, 16.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון אפאצ'י 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות את הקוד והמשקלים ולהטמיע אותו במוצרים פנימיים או חיצוניים בלי לשלם תמלוגים. התנאי העיקרי הוא שמירה על הצהרת זכויות היוצרים והרישיון המקורי, לצד ציון השינויים שביצעתם.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗