fava
רץ בדפדפןfava-uwרישיון לא דווח2024-01-03
בודקים קטע טקסט מול מקור מידע כדי לאתר ולתקן הזיות של מודלי שפה. מתאים למי שרוצה לאמת פסקאות שנוצרו בבינה מלאכותית מול טקסט אסמכתה ברור.
- —הורדות בחודש
- 47לייקים
מה זה
מזינים שתי תיבות טקסט בממשק, את הפסקה שרוצים לבדוק ואת טקסט המקור שאמור לאשש אותה. בתמורה מקבלים תצוגת HTML שמסמנת איפה בדיוק מופיעות שגיאות עובדתיות ומציגה עריכה שמתקנת אותן.
מאחורי הקלעים רץ המודל fava-uw/fava-model באמצעות ספריית vLLM ופייתורץ׳, גישה שנועדה לתת הסקה מהירה על גבי החומרה. הממשק כולל דוגמה מוכנה על הפארק הלאומי באנף בקנדה, שממחישה איך עובדות שגויות על שנת ההקמה או פרסים מומצאים מזוהות ומוחלפות על בסיס העובדות הנכונות. יש גם אפשרות לדווח ידנית אם הזיהוי או העריכה שגויים כדי לעזור לצוות המחקר.
מתאים ל
- בדיקת פסקאות מול מקור
מזינים טיוטה שנוצרה בבינה מלאכותית יחד עם מסמך מקור, ובודקים אם הנתונים בפנים תואמים בדיוק למקור.
- עריכת שגיאות עובדתיות
מקבלים גרסה ערוכה של הפסקה שבה הנתונים המומצאים מתוקנים לפי עובדות האסמכתה.
- בחינת יכולות המודל
מריצים את דוגמת הפארק הלאומי כדי לראות איך מודל המחקר מסמן הזיות לפני שמתקינים אותו.
איפה זה נופל
הבעיה המיידית היא שהאפליקציה פשוט קורסת ולא נטענת בדפדפן. מעבר לכך, היא מוגבלת לחלוטין לטקסט האסמכתה שאתם מביאים בעצמכם, ואין כאן מנוע חיפוש פנימי או בדיקת עובדות עצמאית מול האינטרנט. הממשק מדגים אנגלית בלבד, ואי אפשר להניח שהוא יודע לעבד עברית בלי לבדוק את זה קודם.
שאלות
נפוצות
האם אפשר להשתמש באפליקציה כרגע בדפדפן?
לא, הדף מציג שגיאת ריצה והממשק לא מגיב. עד שהמפתחים לא יתקנו את הבעיה בשרת, אי אפשר להריץ בדיקות דרך האתר. הפתרון היחיד הוא להוריד את המודל ולהריץ אותו באופן עצמאי.
האם הכלי הזה מחפש עובדות לבד ברשת?
ממש לא, אתם חייבים להזין גם את קטע הבדיקה וגם את מקור המידע המדויק. המערכת רק משווה בין שני הטקסטים שסיפקתם ומחפשת סתירות. אם לא תדביקו מקור אמין, היא לא תדע מה נכון ומה מומצא.
האם השימוש פתוח בחינם?
העמוד זמין בחינם בהאגינג פייס ללא דרישת תשלום או מנוי. כל עוד הוא פועל, לא צריך לשלם כדי להזין טקסטים. עם זאת, אין התחייבות לזמינות או לביצועים.
במה הממשק הזה שונה מהרצת המודל לבד?
הממשק נותן שכבה ויזואלית נוחה ב־HTML שמדגישה את השינויים בעיניים. כשמריצים את המודל ישירות בקוד פייתון מקבלים את הפלט הגולמי, בלי המעטפת של Gradio ובלי כפתורי הדיווח המוכנים.
איך משתמשים
כרגע אי אפשר להריץ את ההדגמה הזאת בכלל, כי היא תקועה במצב של שגיאת ריצה. כשהיא כן פועלת, מדובר בממשק Gradio רגיל שבו מקלידים או מדביקים שני טקסטים ולוחצים על שליחה. הוא מוגדר לרוץ על מעבד גרפי מסוג A10G small עם ספריית vLLM, שילוב שאמור לתת תוצאות תוך שניות בודדות ללא צורך בהתחברות מיוחדת.
הרישיון
הרישיון לא דווח בעמוד של הפרויקט. כברירת מחדל לא כדאי להזין לשם מידע רגיש או מסמכים פנימיים, במיוחד כשהקוד שולח דיווחי שגיאות ידניים חזרה למפתחים.