GODEL-Demo

מה זה

אתם מזינים שלושה דברים: הנחיה לשיחה כמו מענה אמפתי או תשובה זהירה, קטע ידע חיצוני בטקסט חופשי, ואת שאלת המשתמש. אפשר גם לשנות פרמטרים טכניים של יצירת הטקסט כמו top_p, אורך מינימלי ואורך מקסימלי. הפלט הוא תשובה טקסטואלית קצרה שמנסה לענות על השאלה תוך שימוש בידע שהוזן.

מאחורי הקלעים רץ המודל microsoft/GODEL-v1_1-base-seq2seq. בניגוד למודלים ישנים יותר כמו DialoGPT, הוא אומן מראש לשלב מידע חיצוני מתוך מסמך או מאגר נתונים ישירות בתוך רצף השיחה. הדוגמאות המובנות בממשק מדגימות תרחישים עסקיים, למשל התכתבות שבה נשאלות שאלות על לוחות זמנים והיתכנות של פרויקט מורכב.

מתאים ל

• מענה מבוסס מסמך

  הזנת קטע מידע קצר ובדיקה איך המודל משלב אותו בתשובה לשאלה ספציפית.

• בדיקת סגנון שיחה

  החלפת הנחיות מערכת כדי לראות אם התשובה משתנה מסגנון זהיר לסגנון אמפתי.

• בחינת מודל בסיס

  הערכת היכולות של גרסת ה־base seq2seq לפני שמורידים ומריצים אותה מקומית.

איפה זה נופל

הבעיה המיידית היא שההדגמה לא עובדת בדפדפן בגלל שגיאת בנייה. מעבר לכך, היא מריצה רק את גרסת הבסיס הקטנה יחסית של המודל ולא גרסאות מתקדמות יותר, והחומרה שהוגדרה לה היא מעבד חלש. הטקסטים והדוגמאות באנגלית, ואין כאן התאמה לשפה העברית.

איך משתמשים

בוחרים דוגמה מובנית או מקלידים ידנית את ההנחיה, הידע והשאלה, ולוחצים על Generate. ההדגמה מוגדרת לרוץ על מעבד בסיסי בלי מאיץ גרפי, אבל כרגע היא במצב שגיאת בנייה ולכן אי אפשר להריץ אותה ישירות בדפדפן בלי לתקן את הסביבה או להוריד את הקוד.

הרישיון

הקוד מפורסם תחת רישיון MIT, שמאפשר שימוש חופשי כולל שימוש מסחרי ושינוי הקוד. לגבי המידע שאתם מזינים, אין פירוט בממשק על שמירת נתונים מעבר לתנאי השימוש הרגילים של השרת.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש

הרישיון המלא ב־Hugging Face ↗