Aether-Sovereign-AI

מה זה

אתם מקלידים הנחיית טקסט בחלון ומקבלים פלט כתוב מהמודל. היישום מבוסס על שרת FastAPI שטוען את גרסת ההוראות של המודל, מזרים את התשובה ומאפשר להתרשם מאיכות הכתיבה והמענה.

מאחורי הקלעים רץ מודל שפה מסוג תערובת מומחים עם 6.59 מיליארד פרמטרים בסך הכל וכ־2.98 מיליארד פרמטרים פעילים בכל טוקן. המבנה שלו כולל 49 שכבות שמשלבות חמישה מנגנוני קשב שונים, כמו קשב דיפרנציאלי וקשב מחליק, המסודרים בתבנית ריבוע לטיני של 7 על 7 כדי למנוע הטיות עומק. הוא אומן על 144.2 מיליארד טוקנים שמורכבים ממתמטיקה, קוריאנית, אנגלית וקוד.

מתאים ל

• בדיקת מענה להוראות

  שליחת פרומפטים באנגלית או קוריאנית לגרסת ה־it כדי לבחון יכולת ניסוח ותמצות.

• פתרון בעיות מתמטיקה וקוד

  בדיקת שאלות חישוביות וסקריפטים, תחומים שהיוו מעל מחצית מנתוני האימון של המודל.

• בחינת תגובת ארכיטקטורה

  השוואת הפלטים מול מודלים רגילים כדי לראות את השפעת שילוב חמשת מנגנוני הקשב.

איפה זה נופל

היישום לא תומך בעבודה בקבוצות, ויש חובה להריץ אותו עם דגימה אחת בכל פעם כי מנגנוני הקשב שלו לא מקבלים מסכות ריפוד ומעוותים תוצאות בעיבוד מקבילי. אימון המודל התבסס על נפח קטן יחסית של 144.2 מיליארד טוקנים ומתמקד בקוריאנית, אנגלית, מתמטיקה וקוד בלבד, כך שאין בו תמיכה ייעודית בעברית. אל תצפו ממנו לתפקד כמנוע שיחה מקיף לכל נושא.

איך משתמשים

בפועל אתם מזינים פרומפט ולוחצים על הפעלה בממשק. המרחב מוגדר לרוץ על חומרת t4-medium, אך כרגע הוא במצב מושהה ולכן לא יגיב מיד בדפדפן עד שיפעילו אותו מחדש. כשהוא עובד, מעבד גרפי T4 נותן קצב ייצור סביר אבל איטי יחסית לכרטיסים מודרניים. לא נדרשת הרשמה מיוחדת מעבר לחשבון באתר.

הרישיון

הקוד, הארכיטקטורה, משקלי המודל ויומני האימון משוחררים תחת רישיון apache-2.0. הרישיון מתיר שימוש מסחרי, שינוי והפצה מחדש. החומרים שמזינים ומקבלים כפופים לתנאי הרישיון הזה ולתנאי השימוש הרגילים באתר.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗