open-webui
רץ בדפדפןopen-webuiרישיון לא דווח2024-05-21
ממשק צ'אט עצמאי לחיבור מודלי שפה מקומיים או מרוחקים. מיועד למי שמחפש סביבת עבודה מלאה לניהול שיחות, מסמכים וכלים בלי תלות באתרים חיצוניים.
- —הורדות בחודש
- 165לייקים
מה זה
המערכת מקבלת טקסט, קבצים, מסמכים, קישורי רשת והקלטות קול, ומחזירה תשובות טקסטואליות, תמונות או ניתוח נתונים בהתאם למודל שמחברים אליה. היא לא כוללת מודל פנימי משלה, אלא מתחברת למנועים חיצוניים דרך Ollama או ממשקי API בתקן של OpenAI, דוגמת LMStudio, GroqCloud או Mistral. מעבר לשיחה פשוטה, היא כוללת מנוע RAG מובנה ששולף מידע מתשעה סוגי מסדי נתונים וקטוריים כמו ChromaDB ו־Qdrant, תומכת בחיפוש רשת בלמעלה מ־15 מנועים שונים, ומאפשרת הרצת פונקציות פייתון ישירות מהממשק.
התצוגה נשענת על עיצוב רספונסיבי המותאם למחשב ולנייד כ־PWA, וכוללת רינדור מלא של Markdown ונוסחאות LaTeX. בממשק עצמו אפשר לשלב מספר מודלים במקביל באותו חלון שיחה, להגדיר סוכנים מותאמים אישית, ולהפעיל יצירת תמונות דרך חיבורים ל־ComfyUI, AUTOMATIC1111 או מנועים מסחריים.
מתאים ל
- עבודה עם מסמכים מקומיים
חיבור קבצים ותשאול שלהם באמצעות מנוע RAG ומסדי נתונים וקטוריים ללא שליחת מידע החוצה.
- ניהול שיחות מקבילות
שליחת אותה שאלה למספר מודלים שונים בו זמנית כדי להשוות ביצועים ותשובות באותו ממשק.
- הפעלת סוכנים וכלי פייתון
הרצת פונקציות קוד ישירות מתוך השיחה לביצוע משימות אוטומציה ואינטגרציה מותאמות אישית.
איפה זה נופל
האפליקציה הזאת היא רק מעטפת תוכנה ולא מייצרת תשובות בעצמה. אם לא תחברו אליה שרת מודלים פעיל כמו Ollama או מפתח גישה לשירות חיצוני, לא תקבלו שום פלט. בנוסף, ההתקנה הנוכחית בעמוד קרסה לגמרי בהרצה, כך שאי אפשר להתרשם מביצועי החומרה או ממהירות התגובה שלה במקום הזה.
שאלות
נפוצות
האם הממשק הזה עולה כסף?
הקוד פתוח לשימוש עצמי בהתקנה מקומית ואינו דורש תשלום על התוכנה הבסיסית. יחד עם זאת, הפעלת מודלים דרך שירותי ענן חיצוניים עשויה לגרור עלויות API נפרדות לחברות שמספקות אותם. קיימת גם תוכנית ארגונית בתשלום עם תמיכה מורחבת של המפתחים.
מה קורה עם הקבצים והמידע שמעלים?
המידע נשמר באופן מקומי אצל מי שמארח את השרת, במסד נתונים פנימי לבחירה כמו SQLite או שרתי אחסון מוגדרים. הממשק פועל ללא חיבור חובה לאינטרנט. עם זאת, אם מחברים ספק בינה מלאכותית חיצוני, הטקסטים והמסמכים יישלחו ישירות אליו לצורך עיבוד.
האם אפשר להריץ את זה על המחשב האישי?
כן, זהו ייעודו המרכזי של הפרויקט. מריצים אותו מקומית באמצעות חבילת פייתון 3.11 או בתוך קונטיינר של Docker. בעמוד הנוכחי האפליקציה תקועה בשגיאת בנייה, ולכן הפעלה עצמית על המחשב שלכם היא הדרך היחידה להשתמש בה כעת.
במה הכלי הזה שונה מהמודל עצמו?
זהו ממשק משתמש בלבד, בדומה לאתר של ChatGPT, אך ללא שום מוח פנימי משלו שמייצר טקסט. הוא זקוק לחיבור למנוע שמריץ מודל, כמו Ollama או שרת תואם OpenAI. בלי הגדרה וחיבור של מודל כזה, הממשק יישאר ריק ולא יענה על שאלות.
איך משתמשים
אי אפשר להשתמש באפליקציה הזאת כרגע בעמוד הנוכחי. ההרצה שלה מוגדרת על מעבד בסיסי והיא נמצאת במצב של שגיאת בנייה, כך שהשרת כלל לא עלה לאוויר. בשימוש תקין מפעילים אותה עצמאית דרך פקודת docker ייעודית עם שמירת נתונים מקומית, או באמצעות pip בסביבת פייתון 3.11, ולאחר מכן ניגשים אליה בדפדפן דרך שרת מקומי בפורט 8080.
הרישיון
הרישיון של הפרויקט לא דווח בפרטי המקור. לא ברור באילו תנאים משפטיים מותר להפיץ או לשנות אותו, אך קיים מסלול ארגוני נפרד בתשלום שכולל מיתוג אישי ותמיכת SLA. כל המידע והקבצים שמזינים נשמרים מקומית במסד הנתונים שנבחר, כמו SQLite או PostgreSQL.