LongWriter
רץ בדפדפןzai-orgרישיון לא דווח2024-08-14
הדגמה שמייצרת טקסטים ארוכים במיוחד לפי הנחיה מפורטת, ומיועדת למי שצריך מאמרים, מדריכים או תוכן שנמתח על פני אלפי מילים. הממשק מתבסס על מודל ייעודי להקשר רחב.
- —הורדות בחודש
- 163לייקים
מה זה
אתם כותבים הוראה בתיבת הטקסט, ויכולים להוסיף הנחיית מערכת נפרדת בצד. הדוגמה המובנית בממשק מבקשת לכתוב מדריך טיולים לסין באורך של עשרת אלפים מילים, וזה בדיוק הכיוון כאן. הפלט מתקבל בצורת שיחה שממשיכה לייצר טקסט רציף בהיקף שלא מקובל במודלים רגילים.
מאחורי הקלעים רץ המודל THUDM/longwriter-glm4-9b באמצעות ספריית transformers של פייתון. הוא בנוי להתמודד עם אורך כולל של קלט ופלט שמגיע עד 128,000 טוקנים, כשהערך ההתחלתי בסליידר מכוון ל־10,240. הממשק נותן לכם לשחק גם עם מדדי ה־temperature וה־top_p כדי לקבוע כמה המודל יהיה שמרני או מגוון בניסוחים שלו.
מתאים ל
- מדריכי עומק
יצירת טקסטים מקיפים ומרובי פרקים כמו מדריכי טיולים או סקירות נושאיות ארוכות בהנחיה אחת.
- סיפורים ומסות
כתיבת תוכן עלילתי או עיוני רציף שלא ייעצר אחרי כמה פסקאות קצרות.
- בדיקת מודלים פתוחים
בחינת ההתנהגות של GLM4 בגרסת התשעה מיליארד פרמטרים מול משימות כתיבה מתישות.
איפה זה נופל
מודל בגודל תשעה מיליארד פרמטרים שכותב עשרת אלפים מילים עלול בקלות למרוח, לחזור על עצמו או להמציא פרטים היסטוריים וגאוגרפיים. בנוסף, חומרת ההדגמה מוגבלת בזמן ריצה רציף, כך שניסיון להגיע לקצה גבול ה־128,000 עשוי להיקטע באמצע בגלל מגבלות המערכת המארחת.
שאלות
נפוצות
האם השימוש עולה כסף?
הגישה בדפדפן פתוחה ללא תשלום ישיר. המשאבים מוקצים על בסיס שיתופי בחומרה קיימת, כך שאין צורך להזין אמצעי תשלום.
כמה זמן לוקח לקבל תשובה?
זה תלוי באורך שהגדרתם בסליידר. טקסט של אלפי מילים על מעבד A10G ייקח כמה דקות של יצירה רציפה, בניגוד לתשובות קצרות שחוזרות תוך שניות.
אפשר להריץ את זה על המחשב שלי?
כן, הקוד מבוסס על app.py רגיל וטוען את המודל THUDM/longwriter-glm4-9b ישירות. תצטרכו כרטיס מסך מתאים והתקנה של transformers עם תמיכה בהרצת קוד מרוחק.
מה קורה עם הטקסט שאני מזין פנימה?
ההדגמה פומבית ורצה על שרתי הענן שמארחים את המרחב. אין שום התחייבות לפרטיות, ולכן אסור להעלות מידע רגיש, אישי או עסקי.
איך משתמשים
מקלידים את הבקשה, לוחצים על Submit וממתינים. אפשר גם להגדיר סיסטם פרומפט עם כפתור ייעודי לפני שמתחילים, או לנקות את השיחה מההתחלה בלחיצה אחת. האפליקציה רצה על חומרת zero-a10g שמקצה משאבי מעבד גרפי לפי דרישה, כך שייצור של אלפי מילים ברצף ייקח זמן ועלול להיעצר אם יש עומס שיתופי.
הרישיון
הרישיון של המרחב לא דווח כלל במאגר. המשמעות היא שאין הרשאה ברורה לשימוש מסחרי בקוד או בפלטים, וכל עוד המפרסם לא ציין תנאים, כדאי להתייחס לתוכן שנוצר ככזה שמיועד לבדיקות והתנסות בלבד.