huggingface-projects/gemma-2-9b-it
רץ בדפדפןhuggingface-projectsרישיון לא דווח2024-06-27
ממשק שיחה פשוט לבדיקת מודל השפה הפתוח של גוגל ישירות בדפדפן. הוא מיועד למי שרוצה להתנסות ביכולות המענה והטקסט של המודל בלי להתקין סביבת פיתוח מקומית.
- —הורדות בחודש
- 102לייקים
מה זה
מדובר בממשק צ'אט שמבוסס על Gradio ומאפשר לנהל שיחה ישירה עם מודל שפה. אתם מקלידים הודעת טקסט לתיבה, שולחים, ומקבלים תשובה שנוצרת ומוזרמת במקום על ידי המודל google/gemma-2-9b-it.
מאחורי הקלעים רץ קוד פייתון שמשתמש בספריית transformers וטוען את המודל ישירות. הממשק כולל חמישה סליידרים שונים לכיוונון פרמטרי היצירה, לצד דוגמאות מובנות להרצה מהירה. אף שהרשימות מזכירות גם את גרסת 27B, הקוד בפועל טוען ומריץ רק את גרסת 9B. המערכת כוללת בדיקות ולידציה בסיסיות, כך שאם שולחים הודעה ריקה או טקסט שממלא את כל חלון ההקשר ואינו משאיר מקום לפלט, הממשק מקפיץ שגיאה מסודרת.
מתאים ל
- בדיקת איכות מענה
שליחת שאלות ובקשות ניסוח כדי לבחון איך המודל מתמודד עם הוראות מורכבות.
- ניסוי פרמטרים ביצירת טקסט
משחק עם חמשת הסליידרים בממשק כדי לראות איך שינוי הגדרות משפיע על התשובות.
- הערכת תמיכה בעברית
הקלדת טקסטים בעברית כדי לבדוק את שטף הכתיבה וההבנה של המודל בפועל.
איפה זה נופל
ההדגמה מוגבלת לטקסט בלבד. אי אפשר להעלות קבצים, מסמכים או תמונות, ואין כאן חיבור לרשת או זיכרון שנשמר בין ביקורים. בנוסף, חלון ההקשר מוגבל, ואם תזינו קלט ארוך מדי המערכת תסרב לענות. אם בניתם על בדיקה של מודל ה־27B שמופיע ברשימות של הדף, תגלו שהקוד מריץ רק את גרסת ה־9B.
אותה משפחה
gemma-2 יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.
שאלות
נפוצות
האם השימוש בהדגמה כרוך בתשלום?
לא, הממשק זמין לשימוש חופשי בדפדפן דרך Hugging Face. אין צורך לשלם על זמן הריצה של השרת או להזין פרטי אשראי. כל מה שצריך זה לפתוח את הקישור ולהתחיל להקליד.
האם הממשק מריץ את דגם 27B?
לא, למרות שהדגם הגדול יותר מוזכר ברשימות המטא-דאטה של העמוד. שורות הקוד של היישום טוענות במפורש אך ורק את google/gemma-2-9b-it. כל התשובות שתקבלו בפועל מגיעות מגרסת ה־9B.
מה קורה עם הטקסט שאני כותב בשיחה?
הטקסט שלכם נשלח לשרת שמריץ את המודל כדי לייצר את התשובה. הקוד לא כולל מנגנון לשמירת היסטוריית השיחות שלכם במאגר חיצוני קבוע, אבל מדובר בסביבה ציבורית שאינה מתאימה למידע רגיש.
למה המערכת מחזירה שגיאה על חלון ההקשר?
המודל מוגבל בכמות הטוקנים שהוא מסוגל לקרוא ולכתוב בבת אחת. הקוד בודק את אורך ההודעה שלכם, ואם היא ממלאת את כל החלון ולא משאירה מקום לתשובה, הוא עוצר את הפעולה ומציג שגיאה.
איך משתמשים
נכנסים לדף, מקלידים הודעה בתיבת הטקסט או בוחרים באחת הדוגמאות המוכנות, ולוחצים על שליחה. היישום רץ על חומרת zero-a10g שמקצה כרטיס גרפי לפי דרישה בעזרת ספריית spaces. זה אומר שלרוב התגובה תתחיל לזרום תוך שניות בודדות, אבל אם הכרטיס במצב שינה או שיש עומס משתמשים, תיתכן המתנה קצרה עד שהחומרה תתעורר.
הרישיון
בעמוד היישום עצמו לא דווח רישיון שימוש. המשמעות היא שאין תנאים מוגדרים מראש עבור הקוד של הממשק, ויש לבדוק את תנאי השימוש המקוריים של גוגל עבור המודל לפני שמשתמשים בפלטים לפרויקטים מסחריים. התוכן שאתם מקלידים עובר דרך השרת שמארח את ההדגמה.