Qwen2.5-1M-Demo

מה זה

מזינים קובצי מסמכים כמו pdf, docx, pptx, txt או html ומקלידים שאלות לגבי התוכן שלהם. בתגובה מקבלים תשובות מבוססות טקסט שהמודל מחלץ ומנתח מתוך החומר שהעליתם ישירות בחלון הצ'אט.

מאחורי הממשק רץ סוכן מסוג Assistant מתוך ספריית qwen_agent, שמשתמש במנגנון פענוח מסמכים מובנה ובכלי חיפוש לחילוץ מקורות. הקוד תומך במודלים כמו Qwen2.5-7B-Instruct-1M, גרסת 14B וכן גרסת Turbo, שכולם תומכים בהקשר של עד מיליון טוקנים.

אם סך הטקסט בקבצים שלכם עובר את המגבלה שהוגדרה, הממשק מקפיץ שגיאה מפורשת לגבי חריגה מכמות הטוקנים המותרת.

מתאים ל

• תחקור קובצי PDF גדולים

  מעלים דוחות כבדים ושואלים שאלות כדי לקבל מידע מדויק מתוך הטקסט.

• ניתוח מצגות ומסמכי אופיס

  טוענים קובצי docx או pptx לחילוץ נתונים ישירות מהשקפים והפסקאות.

• בדיקת דפי אינטרנט שמורים

  מזינים קובצי html ארוכים ומבצעים עליהם שאילתות תוכן בעזרת המודל.

איפה זה נופל

הבעיה המיידית היא שהמרחב נמצא כרגע במצב paused, ולכן הוא לא יגיב בכלל עד שיותנע שוב. מעבר לכך, אם הקבצים יחרגו מתקרת הטוקנים המקסימלית שנקבעה, הפעולה תיכשל בהודעת שגיאה ולא תעובד. חומרת cpu-basic גם תתקשה להחזיר זמני תגובה סבירים בטקסטים של מיליון טוקנים, וזה עלול ליצור רושם שהמודל אטי בהרבה ממה שהוא באמת כשהוא רץ על מאיצים מתאימים.

איך משתמשים

נכנסים לממשק הדפדפן של גרדיו, מעלים את הקבצים בפורמטים הנתמכים וכותבים שאלה בתיבת הטקסט. השרת שעליו יושב המרחב כרגע מוגדר במצב מושהה ורץ על חומרת מעבד בסיסית, כך שאי אפשר להשתמש בו ישירות כרגע מבלי להפעיל אותו מחדש. עיבוד של מסמכים גדולים על מעבד בסיסי ייקח זמן וידרוש סבלנות.

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0, שמאפשר שימוש חופשי בקוד, שינוי שלו והפצה מסחרית. לגבי המידע והקבצים שמעלים, יש לזכור שהם נשלחים למרחב שרץ ברשת ולכן עדיף להימנע מהעלאת מידע רגיש.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗