guanaco-playground-tgi

מה זה

אתם כותבים הודעה בתיבת הטקסט ומקבלים תשובה בתוך חלון צ'אט, ממש כמו בכל כלי שיחה מוכר. לצד חלון השיחה יש דוגמאות מובנות להרצה מהירה בלחיצה אחת, שמאפשרות לבדוק את התנהגות המערכת בלי לחשוב על פרומפט מראש.

מתחת לפני השטח הקוד משתמש בספריית text generation client ומתחבר למודלים timdettmers/guanaco-33b-merged ו־bigscience/bloom. אפשר לפתוח תפריט פרמטרים ייעודי ולכוונן ידנית ערכים כמו temperature, top_p, אורך מקסימלי של טוקנים חדשים ומדד repetition penalty כדי להשפיע ישירות על אופי התשובות ורמת היצירתיות של הפלט.

מתאים ל

• בדיקת פרומפטים בסיסית

  שליחת שאלות ובדיקת איכות התשובות של המודל ללא התקנה מקומית.

• כוונון פרמטרי יצירה

  משחק עם טמפרטורה וחזרתיות כדי לראות איך משתנה הפלט.

• השוואת סגנון שיחה

  התנסות ביכולות המודל מול דוגמאות קלט מוכנות מראש.

איפה זה נופל

הקוד לא שומר דוגמאות במטמון ומריץ הכל בזמן אמת, מה שעלול להיתקע אם יש עומס על שרת ההסקה המרוחק. הממשק מספק רק ערוץ טקסט בסיסי, בלי יכולת להעלות קבצים, מסמכים או תמונות. בנוסף, חומרה בסיסית של חלל ההרצה עלולה לייצר איטיות בטעינת הדף עצמו.

איך משתמשים

נכנסים לדף, מקלידים שאלה בתיבה ולוחצים על Send. אפשר גם ללחוץ על Clear chat כדי לאפס את ההיסטוריה, או לבחור באחת הדוגמאות המוכנות. האפליקציה עצמה מוגדרת על מעבד בסיסי, אבל היא פונה לשרת הסקות נפרד, כך שהתשובה מגיעה תוך שניות בודדות בלי צורך בהתחברות או בהזנת מפתח.

הרישיון

היוצרים לא ציינו רישיון פיתוח ברור בקבצי המקור. במצב כזה אין אישור מפורש לשימוש מסחרי, וכל טקסט שאתם מקלידים נשלח לשרת חיצוני לצורך יצירת התשובה.

הרישיון המלא ב־Hugging Face ↗