QwenScope

מה זה

אתם מזינים טקסט באחת משתי לשוניות עבודה. בלשונית ההשוואה מזינים שני קטעי טקסט, בוחרים טווח שכבות מתוך עשרים וארבע השכבות הקיימות וערך Top-K, ומקבלים ניתוח של הפעלות המאפיינים ברמת הטוקן לצד טבלאות HTML של ההבדלים ביניהם. יש אפשרות לסנן טוקנים זהים או תחיליות משותפות כדי לראות רק את השוני הפנימי.

בלשונית הכיוונון מזינים פרומפט ומזריקים וקטורים של מפענח ה־SAE ישירות לתוך זרם השאריות של המודל בזמן הריצה. המערכת מבוססת על מודל שפה של שני מיליארד פרמטרים ומודל עזר מסוג Sparse Autoencoder ברוחב של 32,768 מאפיינים, שמפרק את הפעילות הפנימית לרכיבים קריאים.

מתאים ל

• השוואת ייצוגים פנימיים

  בדיקת ההבדל בין שני ניסוחי טקסט ברמת המאפיינים והשכבות של המודל.

• כיוונון התנהגות מודל

  הזרקת וקטורי SAE לשכבות השונות כדי להשפיע על אופי הטקסט הנוצר.

• חקר יכולות תפיסה

  איתור מאפיינים ספציפיים שמופעלים על ידי מילים או הקשרים מוגדרים.

איפה זה נופל

זה לא כלי לשיחה או לכתיבת תוכן שוטף. ההדגמה מתמקדת אך ורק במודל הבסיס של שני מיליארד פרמטרים ולא במודלים הגדולים יותר, כך שממצאים שתגלו כאן אינם בהכרח מייצגים את ההתנהגות של גרסאות מתקדמות. בנוסף, חובה להזין ערכי מאפיינים מדויקים בטווח שבין אפס ל־32,767, וכל חריגה זורקת שגיאה ועוצרת את הפעולה.

איך משתמשים

לוחצים על כפתור ההשוואה או ההרצה בממשק גרדיו, שמוגדר על חומרת מעבד בסיסית אך משתמש בספריית spaces של זירו-ג'י-פי-יו לצורך החישובים הכבדים. אין צורך בהתחברות כדי לבדוק את הממשק, אבל זמני הריצה תלויים בזמינות מעבדי העיבוד הגרפי המשותפים, ולכן ייתכנו תורים או השהיות קלות בעת עיבוד טקסטים ארוכים.

הרישיון

הקוד והמודלים משוחררים תחת רישיון apache-2.0, שמאפשר שימוש חופשי כולל שינויים והפצה מסחרית. המידע שתקלידו בממשק נשלח לשרתי זירו-ג'י-פי-יו לצורך עיבוד, ולכן לא מומלץ להדביק שם טקסט רגיש.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗