langchain-chat-with-pdf-openai
רץ בדפדפןfffiloniרישיון לא דווח2023-04-21
מעלים קובץ מסמך ושואלים עליו שאלות בשיחה ישירה. מתאים למי שרוצה לתשאל תוכן של מסמכים בלי לקרוא עמוד אחרי עמוד.
- —הורדות בחודש
- 76לייקים
מה זה
אתם מספקים מפתח אישי של OpenAI, מעלים קובץ PDF מהמחשב ולוחצים על כפתור הטעינה. לאחר שהתוכן מעובד, מקלידים שאלות בתיבת הטקסט ומקבלים תשובות בצורת צ'אט שמבוססות על המידע שבקובץ.
מאחורי הקלעים הקוד משתמש בספריית LangChain כדי לחלץ את הטקסט בעזרת OnlinePDFLoader, לחתוך אותו למקטעים עם CharacterTextSplitter ולייצר וקטורים דרך OpenAIEmbeddings. הנתונים נשמרים במאגר וקטורי של Chroma, והשאלות מעובדות דרך שרשרת מסוג ConversationalRetrievalChain שמחוברת למודל השפה של OpenAI. בממשק אין דוגמאות מובנות מראש, כך שחייבים להזין קובץ ומפתח עצמאיים כדי להתחיל לעבוד.
מתאים ל
- תשאול דוחות ומאמרים
מעלים מסמך מקצועי ושואלים שאלות כדי לאתר נתונים במהירות בלי לקרוא הכל.
- בדיקת שרשראות LangChain
בחינת האופן שבו Chroma ושרשרת שיחה מבוססת אחזור פועלות מול מודל חיצוני.
- סיכום מסמכי PDF
הפקת נקודות מרכזיות מתוך קובצי טקסט ארוכים דרך חלון הצ'אט.
איפה זה נופל
הבעיה הגדולה ביותר כרגע היא שהיישום נמצא במצב של שגיאת ריצה ואי אפשר להשתמש בו ישירות בדפדפן. בנוסף, חובה להחזיק מפתח API פרטי ולשלם על השימוש בו מול OpenAI, והעיבוד נשען כולו על חיתוך תווים בסיסי שעלול לפספס הקשרים במסמכים מורכבים.
שאלות
נפוצות
האם הכלי פתוח לשימוש בחינם?
הגישה לעמוד אינה עולה כסף, אבל אתם חייבים להזין מפתח אישי של OpenAI. המשמעות היא שאתם משלמים ישירות על הקריאות למודל ועל הפקת הווקטורים לפי התעריף של החשבון שלכם.
למה מופיעה הודעת שגיאה בכניסה לעמוד?
הפרויקט מוגדר במצב של שגיאת ריצה. כל עוד היוצר לא מעדכן את הקוד או את ההגדרות, לא ניתן להפעיל את הממשק ברשת כפי שהוא.
האם אפשר להריץ את הקוד באופן מקומי?
כן, הקוד כתוב בפייתון עם ספריות סטנדרטיות כמו Gradio ו־LangChain. אפשר להוריד את הקבצים, להתקין את התלויות ולהפעיל את הממשק על המחשב שלכם עם מפתח מתאים.
איך משתמשים
טוענים את המפתח שלכם, בוחרים קובץ PDF ולוחצים על הכפתור שמזין את המסמך למערכת. חלון סטטוס מראה מתי העיבוד הסתיים, ואז פשוט מקלידים שאלה ושולחים. השרת פועל על מעבד בסיסי בלבד, ופעולות השיסוע והאינדוקס של קבצים כבדים עלולות לקחת זמן עוד לפני שהשאילתה מגיעה ל־OpenAI.
הרישיון
הרישיון של הפרויקט לא דווח כלל. המשמעות היא שאין הרשאה ברורה להשתמש בקוד לפרויקטים מסחריים או לשנות אותו, והתוכן שאתם מעלים נשלח דרך השרתים של OpenAI לפי תנאי השימוש שלהם.