חדש תמונה, וידאו, קריינות ותמלול בקריאה אחת, בלי להריץ מודל. מנסים בלי שרת

GPT
T

token_probability_distribution

רץ בדפדפן

genaibookרישיון לא דווח2024-08-03

  • gradio

הכלי מציג ויזואלית איך פרמטרים של דגימה משפיעים על התפלגות טוקנים במודלי שפה. הוא מיועד למי שרוצה להבין לעומק טמפרטורה, טופ קיי וטופ פי בלי להריץ שורות קוד.

  • —הורדות בחודש
  • 40לייקים

מה זה

הממשק מציג גרף שממחיש הסתברויות של טוקנים, כשבצד מופיעים שלושה סליידרים ידניים. אתם משנים את הערכים של טמפרטורה מ־0 עד 5.0, טופ קיי בין 0 ל־10, וטופ פי בטווח של 0.0 עד 1.0. הפלט הוא תרשים שמתעדכן ומציג את המשקל היחסי של כל טוקן לפי החיתוך והריכוך שבחרתם.

מתחת למכסה המנוע אין כאן מודל שפה ענק שרץ ברקע ופולט טקסט אמיתי. הקוד נשען על ספריות חישוב ושרטוט בסיסיות, בעיקר נאמפאי ומטפלוטליב, כדי להדגים מתמטית איך הנוסחאות האלה עובדות על מערך נתונים מספרי. ברירת המחדל מציגה ערכים ראשוניים שנקבעו מראש בקוד, כך שרואים מיד את נקודת המוצא לפני שמתחילים לגעת בסליידרים השונים.

מתאים ל

  • הבנת פרמטרי דגימה

    צפייה בשינוי ההסתברויות שמקבלים טוקנים כשמשנים טמפרטורה.

  • המחשת סינון טופ קיי

    בדיקה ויזואלית של מספר הטוקנים שנשארים בחישוב לעומת אלה שנחתכים.

  • לימוד עקרון טופ פי

    מעקב אחר הצטברות ההסתברות הכוללת ואיך סף החיתוך משפיע על הגרף.

איפה זה נופל

זה לא כלי שמייצר טקסט ואי אפשר לראות כאן איך מילים אמיתיות מושפעות מההגדרות. טווח הטופ קיי מוגבל לעשרה טוקנים בלבד, בעוד שבמודלים אמיתיים עובדים לרוב עם עשרות או מאות. אם אתם מחפשים לבדוק פרומפטים או לראות תוצאה לשונית, הכלי הזה יאכזב אתכם כי הוא עוסק בחישוב ההסתברותי בלבד.

שאלות
נפוצות

האם צריך לשלם כדי להשתמש בזה?

לא, הממשק פתוח ונגיש בדפדפן ללא תשלום. אין צורך בהרשמה או בהזנת פרטי אשראי.

האם המידע שלי נשמר איפשהו?

אתם לא מעלים לכאן קבצים או טקסט, אלא רק מזיזים סליידרים של מספרים. אין נתונים אישיים שנשלחים או נשמרים בשרת.

האם אפשר להריץ את זה על המחשב?

הקוד מבוסס על ספריות פייתון סטנדרטיות כמו נאמפאי, גרדיו ומטפלוטליב. אפשר להעתיק את הקוד ולהריץ אותו מקומית בקלות, אך יש לזכור שלא צוין רישיון רשמי.

במה זה שונה משיחה עם מודל שפה אמיתי?

אין כאן מודל שמחזיר תשובות לשאלות שלכם. הכלי רק ממחיש את הגרף המתמטי של חלוקת ההסתברויות מאחורי הקלעים.

איך משתמשים

נכנסים לדף בדפדפן ומשחקים עם הסליידרים של הפרמטרים. אין צורך לפתוח חשבון, להתחבר או להזין טקסט משלכם, והתרשים מתעדכן ישר מול העיניים. הכל רץ על מעבד בסיסי, וזה לגמרי מספיק כי מדובר בחישובים מתמטיים פשוטים ובציור גרף שלא דורשים כרטיס מסך חזק או זמן המתנה ארוך.

הרישיון

היוצרים לא ציינו רישיון שימוש בקוד או בדף. במצב כזה אין הרשאה מפורשת להעתיק את הקוד לפרויקטים מסחריים. מנגד, אתם לא מעלים לכאן שום תוכן אישי, כך שאין חשש לפרטיות של מידע רגיש.

הרישיון המלא ב־Hugging Face ↗