GPT
L

LLaDA

רץ בדפדפן

multimodalartmit2025-02-26

  • gradio

הדגמה של מודל שפה מבוסס דיפוזיה שמייצר טקסט באופן שונה ממודלים רגילים. זה מיועד למי שרוצה לבחון בפועל איך עובד תהליך יצירה שאינו מילה אחר מילה.

  • הורדות בחודש
  • 186לייקים

מה זה

אתם מקלידים הנחיה בתיבת הטקסט, ויכולים להוסיף אילוצים ספציפיים בשדה נפרד. במקום שהמילים ייפלטו אחת אחרי השנייה ברצף, המודל מתחיל מטקסט מוסתר ומקלף את המסכות בהדרגה דרך צעדי דיפוזיה, ממש כמו ביצירת תמונות.

מתחת למכסה רץ המודל LLaDA-8B-Instruct עם שמונה מיליארד פרמטרים. הממשק מציג חלון צ'אט רגיל לצד אזור ויזואלי שמדגיש את הטקסט בזמן אמת, כך שרואים את השינויים בכל צעד. בהגדרות המתקדמות אפשר לשנות את אורך הפלט, מספר הצעדים, הטמפרטורה, אסטרטגיית המסכות וקצב ההשהיה של התצוגה.

מתאים ל

  • בדיקת דיפוזיה בטקסט

    צפייה באופן שבו מודל שפה מעדכן מילים ומסיר מסכות לאורך צעדי הדור.

  • הפעלת אילוצים על תשובות

    הכנסת תנאים בשדה הייעודי כדי לראות אם המודל נשמע להם טוב יותר ממודלים רגילים.

  • כוונון פרמטרי יצירה

    שינוי ידני של אסטרטגיית המסכות, הטמפרטורה ומספר הצעדים כדי לבחון את ההשפעה על הפלט.

איפה זה נופל

ההדגמה מיועדת להמחיש את מנגנון הדיפוזיה ולא לתת מענה מהיר כמו צ'אט רגיל. ריצה על כרטיס A10G עם מודל של שמונה מיליארד פרמטרים יכולה להיות אטית מאוד, במיוחד אם מגדילים את מספר הצעדים. בנוסף, חלוקת המשאבים השיתופית בענן עלולה לנתק את החיבור באמצע תהליך ארוך.

שאלות
נפוצות

האם השימוש עולה כסף?

לא. האפליקציה פתוחה לשימוש בדפדפן בלי צורך בתשלום.

במה זה שונה ממודל צ'אט רגיל?

רוב המודלים מייצרים מילה אחר מילה לפי סדר. כאן הטקסט נבנה במקביל מכמה כיוונים באמצעות תהליך דיפוזיה שמתעדכן בצעדים.

אפשר להריץ את זה על המחשב?

כן, הקוד והמודל זמינים תחת רישיון MIT. עם זאת, תצטרכו חומרה עם כרטיס מסך מתאים כדי להריץ מודל של שמונה מיליארד פרמטרים.

איך משתמשים

כותבים הודעה בתיבת הטקסט ולוחצים על Send. המערכת רצה על חומרת Zero-A10G דרך ספריית spaces, מה שאומר שהמעבד הגרפי מוקצה לפי דרישה. ייתכן שתחכו כמה שניות לתור או לטעינת החומרה אם יש עומס, וקצב היצירה בפועל מושפע ישירות ממספר הצעדים שתבחרו ומהשהיית הוויזואליזציה.

הרישיון

הפרויקט מפורסם תחת רישיון MIT. הרישיון הזה מתיר שימוש חופשי, שינוי קוד ושילוב במוצרים מסחריים בלי הרבה מגבלות, בכפוף לשמירת תנאי הרישיון המקוריים.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗