blenderbot-3B

מה זה

מדובר במודל שיחה שפותח על בסיס המחקר של פייסבוק על שילוב מיומנויות שיחה מגוונות. הרעיון המרכזי מאחוריו הוא שצ'אטבוט טוב צריך יותר מסתם לנחש את המילה הבאה. הוא אמור לשלב ידע, להפגין אישיות עקבית, להקשיב, ולשאול שאלות מתאימות תוך כדי אינטראקציה, במקום לפלוט תשובות יבשות.

החוקרים שחררו אותו בכמה גדלים, מ־90 מיליון פרמטרים ועד מעל 9 מיליארד, כשהגרסה הזו יושבת באמצע עם קבצים במשקל כולל של 5.1 גיגה-בייט. בהערכות אנושיות שנערכו במסגרת המחקר, המודלים המובילים שלהם קיבלו ציונים טובים יותר מגישות קודמות במדדים של אנושיות ועניין בשיחה, מה שהופך אותו למועמד טוב למחקר ולניסויים בדיאלוג חופשי.

מתאים ל

• מחקר על דיאלוג

  מתאים לבחינת התנהגות מודלי שיחה מקומיים באנגלית בלי תלות ב־API סגור.

• בוט אישיות למשחקים

  נותן מענה קצר ומגוון לדמויות שאינן שחקן, בזכות דגש על אישיות ואמפתיה.

• בדיקות אוטומטיות

  משמש כפרטנר ממוחשב לסימולציות שיחה קצרות באנגלית על חומרה מקומית.

איפה זה נופל

המגבלה הכי קשה כאן היא חלון ההקשר, שעומד על 128 טוקנים בלבד. אי אפשר להעביר לו היסטוריית שיחה ארוכה או מסמכים, והוא מאבד את חוט המחשבה מהר מאוד. בנוסף, המודל מאומן באנגלית בלבד ולא יתאים לממשקים בעברית. החוקרים עצמם מודים במאמר שיש לו נקודות כשל בניתוח מקרים שבהם המודל מייצר תשובות לא עקביות או נכשל בשיחה מורכבת.

אותה משפחה

blenderbot יצא ב־3 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המודל רץ ישירות דרך ספריית transformers בפייתון. קבצי המשקל תופסים כ־5.1 גיגה-בייט, כך שאפשר להריץ אותו בנוחות על כרטיס מסך בודד עם 8 עד 16 גיגה זיכרון, או אפילו על מעבד אם מוכנים לספוג זמני תגובה איטיים יותר.

אם אתם צריכים רק בוט פשוט לניסויי דיאלוג מקומיים באנגלית, שווה להריץ אותו עצמאית בלי לשלם על קריאות חיצוניות. מנגד, אם אתם מפתחים מוצר שדורש מענה מהיר לעשרות משתמשים במקביל, שירות ענן מנוהל יחסוך את כאב הראש של תחזוקת השרתים.

from transformers import pipeline

pipe = pipeline("text-generation", model="facebook/blenderbot-3B")
print(pipe("שלום"))

הקבצים

10 קבצים במאגר, 5.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• pytorch_model.bin5.5 GB
• tokenizer.json309.6 KB
• vocab.json149.9 KB
• merges.txt62.9 KB
• README.md1.5 KB
• config.json1.3 KB
• generation_config.json347 B
• .gitattributes345 B
• tokenizer_config.json296 B
• special_tokens_map.json130 B

הרישיון

רישיון apache-2.0 מאפשר שימוש חופשי לחלוטין, כולל שימוש מסחרי, שינוי הקוד והפצה מחדש. התנאי העיקרי הוא שמירה על הודעת זכויות היוצרים וציון הרישיון המקורי, בלי חובה לחשוף את הקוד של המוצר שבו תשלבו אותו.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗