lorahub
רץ בדפדפןsailmit2023-07-18
הכלי מיועד לחוקרים ומפתחים שרוצים להרכיב יחד כמה מודולי LoRA קיימים למשימה חדשה בלי לאמן מודל מאפס. אתם מספקים דוגמאות בודדות של הקלט והפלט, והוא מחפש שילוב מתאים.
- —הורדות בחודש
- 64לייקים
מה זה
הרעיון פה מבוסס על שילוב של מודולי LoRA שונים כדי להתמודד עם משימות שלא נראו קודם, בעזרת דוגמאות ספורות בלבד. אתם מזינים כמה דוגמאות של המשימה המבוקשת, והמערכת מנסה לבצע הרכבה מתוך מאגר קיים בלי להוסיף פרמטרים או להריץ אימון מלא מחדש.
ברירת המחדל מציגה דוגמאות מתוך משימת הבנת תאריכים במבחן BBH. מאחורי הקלעים הקוד מתבסס על מתאמי LoRA שונים עבור מודל הבסיס flan t5 large, שנבנו במקור על גרסאות של adversarial qa.
מתאים ל
- הרכבת מודולי LoRA למשימה
שילוב מתאמים קיימים כדי לקבל ביצועים במשימה חדשה על בסיס דוגמאות ספורות.
- בדיקת הבנת תאריכים
בחינת יכולות המודל על דוגמאות מובנות מתוך מבחן BBH Date Understanding.
- בחינת תשתית flan-t5
הערכת שילובי מתאמים שנבנו במקור עבור משימות adversarial qa על בסיס flan t5 large.
איפה זה נופל
הבעיה המיידית היא שהחלל כרגע מדווח על RUNTIME_ERROR, כך שאי אפשר להשתמש בו ישירות. מעבר לזה, המודולים שנטענים מוגבלים לסביבת flan t5 large ומשימות שאלות ותשובות, כך שזה לא כלי כללי לכל מודל או לכל שפה.
שאלות
נפוצות
האם אפשר להשתמש באפליקציה כרגע בדפדפן?
לא. האפליקציה נמצאת כרגע במצב של תקלת ריצה, כך שהיא לא פעילה ישירות דרך האתר. כדי לבדוק אותה תצטרכו להסתכל בקוד או לנסות להריץ אותה בעצמכם.
האם אפשר להריץ את הקוד באופן מקומי?
כן. הקוד בנוי ב־streamlit ומשוחרר ברישיון MIT חופשי. אפשר להוריד את הקבצים, להתקין את הספריות כמו torch ו־gspread, ולהריץ אותו על מחשב עם חומרה מתאימה.
מה קורה עם המידע שמזינים בממשק?
הקוד כולל חיבור לחשבון שירות של גוגל וספריית gspread. זה אומר שדוגמאות או נתונים שאתם מקלידים עלולים להישמר בגיליון נתונים חיצוני, ולכן לא מומלץ להזין מידע פרטי.
במה זה שונה משימוש רגיל ב־LoRA?
אימון LoRA רגיל לוקח משימה אחת ומאמן עבורה שכבות התאמה ייעודיות. הכלי הזה מנסה לקחת מתאמים שכבר אומנו על משימות שונות ולחבר ביניהם, כדי לענות על צורך חדש בלי אימון מחדש.
איך משתמשים
נכנסים לממשק streamlit, מספקים את הדוגמאות הנדרשות עבור המשימה ומריצים את ההרכבה. אין דרישה מפורשת להתחברות משתמש רגילה, אבל החומרה מאחור היא מעבד גרפי t4-small. נכון לעכשיו אי אפשר להריץ את זה בדפדפן, כי האפליקציה נמצאת במצב של שגיאת ריצה.
הרישיון
הקוד מפורסם תחת רישיון MIT, מה שמאפשר שימוש חופשי, העתקה ושינוי גם לפרויקטים מסחריים. הקוד כולל שילוב עם Google Sheets לשמירת מידע, לכן כדאי לשים לב לפני שמזינים נתונים רגישים.
- שימוש מסחרי
- שינוי הקוד
- הפצה מחדש