beam_search_visualizer

מה זה

אתם מקלידים משפט התחלתי בתיבת הטקסט ובוחרים פרמטרים בעזרת סליידרים: מספר הצעדים קדימה, גודל האלומה (n_beams), עונש על אורך המשפט (length_penalty), וכמה רצפים סופיים להחזיר. בלחיצת כפתור מקבלים פלט ויזואלי של עץ הבחירות והסתברויות המילים, לצד הטקסט שנוצר.

מאחורי הקלעים רץ מודל gpt2 הוותיק של OpenAI דרך ספריית transformers של Hugging Face. המודל מחשב את ההסתברות לכל טוקן אפשרי בכל שלב, והקוד מארגן את המסלולים המובילים לפי שיטת החיפוש ומציג אותם בפורמט HTML ומרקדאון בדפדפן.

מתאים ל

• לימוד פענוח טקסט

  הבנת האופן שבו אלגוריתם Beam Search שוקל מסלולים חלופיים לעומת בחירה חמדנית בכל צעד.

• ניסוי פרמטרים בחיפוש

  בדיקה מעשית של השפעת רוחב האלומה ועונש האורך על גיוון הטקסט שמייצר GPT-2.

• הוראה והדגמה

  הצגה ויזואלית של עצי הסתברות בשיעורי עיבוד שפה טבעית ובינה מלאכותית.

איפה זה נופל

נכון לעכשיו המרחב נמצא במצב של שגיאת ריצה (RUNTIME_ERROR), כך שאי אפשר להשתמש בו ישירות בדפדפן עד שהיוצר יתקן את התקלה. בנוסף, הוא מריץ אך ורק את מודל gpt2 הבסיסי. אי אפשר לבחון בו מודלים מודרניים או שפות אחרות, וההדגמה מוגבלת למספר צעדים קטן יחסית כדי לא להעמיס על המעבד.

איך משתמשים

נכנסים לממשק, מכוונים את הסליידרים להגדרות החיפוש שרוצים לבדוק, ומפעילים. אין צורך בחשבון או בהתחברות כדי להשתמש. השרת מבוסס על מעבד בסיסי (cpu-basic), מה שאומר שהחישוב של GPT-2 ייקח כמה שניות, במיוחד אם מגדילים את מספר הצעדים ורוחב האלומה.

הרישיון

הקוד מופץ תחת רישיון apache-2.0, שמאפשר שימוש חופשי, שינוי והפצה, כולל שימוש מסחרי, כל עוד שומרים על תנאי הרישיון המקוריים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗