GLM-130B

מה זה

מזינים טקסט באנגלית או בסינית לתוך תיבה של שבע שורות ומקבלים פלט טקסטואלי מקביל. הקוד מציג דוגמאות מובנות להשלמת משפטים, יצירת טקסט ותרגום הדדי בין שתי השפות בלבד. הממשק חושף שליטה בפרמטרים כמו אורך פלט שנע בין 32 ל 256, אורך מינימלי, וקביעת סיד קבוע לשחזור תוצאות.

מאחורי הקלעים הקוד מתחבר אל מודל GLM 130B. אפשר לבחור בין שתי אסטרטגיות דגימה שונות לגמרי: חיפוש אלומה עם הגדרות של מספר אלומות, עונש על אורך ומניעת חזרות, או אסטרטגיה בסיסית שמאפשרת לכוונן טמפרטורה, דגימת טופ קיי עד 40 וטופ פי.

מתאים ל

• תרגום אנגלית וסינית

  תרגום ישיר של פסקאות קצרות בין שתי השפות לפי הדוגמאות שמובנות במערכת.

• השלמת טקסט מונחית

  יצירת המשך לפסקה קיימת תוך שליטה באורך המינימלי ומניעת חזרות מילוליות.

• ניסוי באסטרטגיות פענוח

  השוואה בין תוצאות של חיפוש אלומה לבין דגימת הסתברות עם טמפרטורה וטופ פי.

איפה זה נופל

הממשק מוגבל לפלט קצרצר של עד 256 יחידות טקסט בלבד, כך שלא תוכלו לייצר מאמרים ארוכים. תיבת הקלט מיועדת מפורשות לאנגלית או לסינית, ואין כאן תמיכה בעברית. היכולות נשענות על קריאות רשת חיצוניות מתוך שרת מעבד חלש, ולכן תקלות תקשורת או עומסים עלולים לעצור את המענה.

איך משתמשים

מקלידים את הטקסט או לוחצים על אחת מדוגמאות הממשק, ואז לוחצים על כפתור Generate. כפתור Clear מנקה מיד את שדה הקלט. החומרה שמריצה את הממשק היא מעבד בסיסי, והקוד שולח בקשות רשת החוצה דרך ספריית requests במקום להריץ 130 מיליארד פרמטרים על השרת המקומי.

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0, שמאפשר שימוש חופשי, שינוי והפצה כולל לצרכים מסחריים בכפוף לתנאי הרישיון. הטקסטים שאתם מזינים נשלחים בבקשת רשת דרך שרתי הממשק.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗