ai

מה זה

מדובר בממשק בדיקות שמבוסס על קונטיינר של דוקר, שבו אתם מזינים טקסט ומקבלים מענה ישיר מהמודל שבחרתם. המערך כולל עשרות מודלים שונים מחברות כמו מיסטרל, דיפסיק, קוון, אנבידיה וזאי, כולל גרסאות קוד, מודלי חשיבה ומודלים מרובי אופנויות.

היישום עצמו לא מריץ את המשקלים העצומים האלה על הברזלים שלו, אלא משמש נקודת גישה וממשק אחיד. במקום לפתוח חשבון נפרד בכל חברה או להוריד מודלים של מאות מיליארדי פרמטרים, מקבלים מקום אחד שבו אפשר להשוות ביצועים מול אותו קלט.

מתאים ל

• בדיקת פרומפטים בכמה מודלים

  מזינים שאלה או הנחיה ובודקים איך מודלים שונים של דיפסיק, מיסטרל או קוון מגיבים לאותו הניסוח.

• התנסות במודלי קוד

  בדיקת קטעי תכנות ומשימות פיתוח מול גרסאות ייעודיות כמו Devstral או Qwen Coder.

• הערכת מודלי חשיבה

  בחינת תהליכי פתרון בעיות במודלים עם יכולות חשיבה כמו Kimi K2 Thinking או Qwen Next Thinking.

איפה זה נופל

החיסרון המיידי הוא שהיישום מושהה ולא זמין כרגע לעבודה רציפה. בנוסף, חומרת המעבד הבסיסית לא מסוגלת לבצע עיבוד מקומי של מודלים מורכבים כמו מיסטרל לארג' או קוון 355B. אין כאן התחייבות לזמינות שרתים, לתמיכה מלאה בעברית בכל המודלים, או לשמירה על היסטוריית השיחות.

איך משתמשים

כרגע היישום נמצא במצב מושהה, כך שאי אפשר להשתמש בו מיד בדפדפן בלי להפעיל אותו מחדש. החומרה שמוגדרת עבורו היא מעבד בסיסי בלבד, מה שאומר שאם המודלים היו רצים מקומית על השרת הזה הם לא היו זזים. הביצועים בפועל תלויים לחלוטין בחיבור לשרתי המודלים החיצוניים.

הרישיון

הפרויקט מפורסם תחת רישיון MIT, שמאפשר שימוש חופשי, העתקה ושינוי של הקוד. עם זאת, השימוש בפלטים ובתוכן שאתם מייצרים כפוף לתנאי הרישיון הספציפיים של כל מודל ומודל שמופעל ברקע.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא ב־Hugging Face ↗