leo-hessianai-13b-chat

מה זה

הממשק מציע שדה טקסט פשוט לשליחת הודעות ומחזיר שיחה רציפה עם תמיכה בעיצוב נוסחאות מתמטיות. בצד הטכני, הקוד לא טוען את משקלי המודל ישירות על השרת המקומי של הדף, אלא פונה דרך ספריית openai אל שרת חיצוני שמוגדר במשתנה סביבה ומזרים את התשובה חזרה בזמן אמת, תוך חיתוך הפלט לפי תווי עצירה ייעודיים.

בנוסף לשליחת הודעות רגילה, אפשר לפתוח תפריט פרמטרים ולהגדיר את אורך התשובה המרבי מ־20 עד 8192 טוקנים, רמות טמפרטורה שנעות בין 0.2 ל־2.0, וערכי סינון כמו top-p, top-k ועונש על חזרתיות. הממשק מכיל גם שדה ייעודי להוראות מערכת, מה שמאפשר להגדיר למודל תפקיד ספציפי לפני שמתחילים לכתוב.

מתאים ל

• בדיקת פרומפטים בטקסט

  שליחת שאלות ובקשות ישירות כדי לבחון איך המודל מגיב להנחיות שונות.

• כוונון פרמטרים ליצירה

  משחק עם הטמפרטורה ועונש החזרתיות כדי לראות איך הפלט משתנה.

• שיחה עם הנחיות מערכת

  הגדרת תפקיד או סגנון תגובה מותאם אישית בשדה המערכת של הצ'אט.

איפה זה נופל

הבעיה המיידית היא שהיישום נמצא במצב תקלה, כך שאי אפשר להשתמש בו עכשיו בדפדפן. מעבר לכך, הדף הזה הוא רק ממשק פנייה לקוד אחר ולא מריץ את החישובים בעצמו על המעבד הבסיסי שהוקצה לו. אי אפשר להעלות קבצים, תמונות או מסמכים, והשליטה מוגבלת לטקסט בלבד.

אותה משפחה

leo-hessianai יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך משתמשים

אתם כותבים הודעה בשדה הטקסט ולוחצים על Send message כדי לשלוח, או משתמשים בכפתור Stop כדי לעצור את ההזרמה באמצע. כפתור New topic מאפס את היסטוריית השיחה שנשמרת ברקע. כרגע הדף מסומן עם שגיאת ריצה, ולכן אי אפשר להריץ אותו ולקבל מענה כלל לפני שיתקנו את הבעיה בשרת.

הרישיון

הפרויקט משויך לרישיון llama2. הרישיון הזה קובע את תנאי השימוש במודל הבסיס ודורש עמידה בהגבלות השימוש וההפצה המסחרית שלו. הקוד באתר לא מגדיר מה קורה עם המידע שנשלח לשרת החיצוני.

• שימוש מסחרי עד 700 מיליון משתמשים
• שינוי הקוד
• חובת ייחוס

הרישיון המלא ב־Hugging Face ↗