GPT
C

chat-langchain

רץ בדפדפן

hwchase17mit2023-01-16

  • gradio

צ'אט שמיועד למפתחים שרוצים לשאול שאלות ולקבל תשובות על בסיס מידע ומסמכים. אתם מזינים מפתח גישה אישי, מקלידים שאלה בתיבת הטקסט ומקבלים מענה ישיר בחלון השיחה.

  • הורדות בחודש
  • 195לייקים

מה זה

הממשק מציג שדה להזנת מפתח API של OpenAI, שורת הודעה, כפתור שליחה וחלון צ'אט. אתם מקלידים שאלה טקסטואלית, שולחים אותה, ומקבלים תשובה מנוסחת שנשענת על נתונים שנשלפו עבורכם.

מאחורי הקלעים הקוד משתמש בספריית langchain יחד עם בסיס הנתונים הווקטורי Weaviate דרך פונקציה שמייצרת שרשרת שיחה ייעודית. התהליך מתבסס על שליפת מידע רלוונטי מהווקטורים והעברתו למודל השפה כדי לייצר את התשובה הסופית. יש בממשק גם אזור דוגמאות מובנה שמציג שאלות מוכנות מראש ומאפשר לראות איך המערכת מגיבה לפניות שונות.

מתאים ל

  • בדיקת שאילתות וקטוריות

    שליחת שאלות ממוקדות כדי לבחון איך שרשרת השיחה שולפת מידע ממסד Weaviate ומחזירה תשובה.

  • לימוד קוד שרשראות שיחה

    בחינת המבנה ב־app.py למי שרוצה לראות דוגמה מעשית לחיבור בין Gradio, LangChain ומסד נתונים.

  • הרצה כבסיס לפרויקט עצמאי

    שכפול הקוד והרצתו בסביבה מקומית כנקודת פתיחה לממשק צ'אט שמחובר למסמכים ארגוניים.

איפה זה נופל

הבעיה המיידית היא סטטוס השגיאה של ההדגמה ברשת, כך שהיא פשוט לא מתפקדת בעמוד כרגע. מעבר לזה, הכלי מחייב הזנת מפתח API פרטי משלכם, ואם אין לכם מפתח כזה לא תקבלו שום פלט. הוא מוגבל למענה טקסטואלי מבוסס השרשרת שהוגדרה בקוד בלבד, ולא מטפל בקבצים חיצוניים שאתם מנסים להעלות ישירות לממשק.

שאלות
נפוצות

האם השימוש בהדגמה הזו בחינם?

הקוד עצמו פתוח וחופשי, אבל השימוש מחייב הזנת מפתח OpenAI אישי. המשמעות היא שכל שאילתה שתשלחו תעלה לכם כסף בחשבון ה־API שלכם לפי תעריפי השימוש של המודל.

למה מופיעה שגיאה כשאני נכנס לעמוד?

האפליקציה מדווחת על שגיאת זמן ריצה בעמוד שלה. כדי להשתמש בה תצטרכו להעתיק את הקוד, לתקן את מה שחסר בסביבה ולהריץ אותו אצלכם.

האם אפשר להעלות לשם קבצים שלי?

לא. הממשק כולל שדה טקסט לשאלות ושדה למפתח בלבד, והוא מקושר למסד Weaviate קיים שהוגדר מראש בקוד ולא תומך בגרירת מסמכים חדשים מהדפדפן.

אפשר להריץ את זה על המחשב המקומי?

כן, הקוד בנוי ב־Gradio ו־LangChain וזמין תחת רישיון פתוח. תצטרכו להתקין את הספריות, להגדיר את החיבור למסד הנתונים ולהזין את מפתח ה־API כדי להרים את זה אצלכם.

איך משתמשים

כדי להריץ משהו צריך להדביק מפתח OpenAI משלכם, לכתוב שאלה בשדה הייעודי וללחוץ על Send. ההדגמה מוגדרת על מעבד בסיסי, כך שזמן התגובה תלוי בעיקר בקריאות החיצוניות למודל ולמסד הנתונים ולא בכוח עיבוד כבד. כרגע מדווחת שגיאת ריצה בהדגמה החיה, מה שאומר שאי אפשר פשוט להיכנס לדפדפן ולהשתמש בה בלי להרים אותה עצמאית.

הרישיון

הפרויקט מפורסם תחת רישיון MIT, שמאפשר שימוש חופשי, שינוי והרצה בקוד שלכם. לגבי המידע והשאלות שאתם שולחים, הם מועברים ישירות דרך מפתח ה־API שלכם לשירותי OpenAI ול־Weaviate לפי תנאי השימוש שלהם.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗