i-like-flan-ul2

מה זה

הממשק מציג תיבת טקסט אחת של שלוש שורות להזנת פרומפט, ושתי תיבות פלט זו לצד זו. בצד אחד מקבלים את התשובה של flan-ul2, ובצד השני את מה שמייצר flan-t5-xxl. שניהם מודלים ממשפחת פלאן של גוגל, שמיועדים לעקוב אחרי הוראות ישירות, לענות על שאלות ולעבד טקסט כללי.

בקוד הוגדרו דוגמאות מובנות מראש שאפשר לטעון בלחיצה כדי לבדוק איך כל מודל ניגש לאותה משימה. הקוד עצמו בנוי בגרדיו, ומשתמש בקריאות רשת אסינכרוניות עם requests כדי לתשאל את שני המודלים בו זמנית, במקום להחזיק משקלים כבדים בתוך התוכנה עצמה.

מתאים ל

• השוואת ניסוחים

  מזינים שאלה זהה ובודקים מי מהמודלים מייצר תשובה ברורה ומדויקת יותר.

• בדיקת מעקב אחר הוראות

  נותנים משימת עיבוד טקסט כדי לראות איזה מודל נצמד בצורה טובה יותר לפורמט המבוקש.

• הערכת כדאיות לפיתוח

  בוחנים את הפלטים של שני המודלים לפני שמחליטים איזה מהם להוריד ולשלב בפרויקט עצמאי.

איפה זה נופל

הבעיה המרכזית כרגע היא שהאפליקציה במצב של שגיאת ריצה, ולכן אי אפשר להריץ דרכה בדיקות בפועל. מעבר לזה, הממשק פשוט מאוד ואינו מציע שליטה בהגדרות ייצור כמו טמפרטורה, אורך פלט מרבי או דגימה. אתם מקבלים תשובת ברירת מחדל בלבד, כך שההשוואה לא משקפת את כל היכולות של המודלים האלה בסביבת עבודה אמיתית.

איך משתמשים

בפועל אתם כותבים שאלה או הוראה בתיבת הקלט, או בוחרים באחת הדוגמאות המוכנות, ולוחצים על שליחה. הבקשה יוצאת דרך פונקציה אסינכרונית שפונה לשני המודלים במקביל ומחזירה את הטקסטים לשתי תיבות הפלט. אין צורך להתחבר עם שם משתמש כדי לגשת לעמוד. הממשק מוגדר על חומרת cpu-basic הפשוטה ביותר, אבל כרגע הדף מדווח על תקלת ריצה ולא מגיב.

הרישיון

הפרויקט מוגדר תחת רישיון openrail. הרישיון הזה מאפשר שימוש חופשי יחסית בקוד ובמודלים, אך כולל מגבלות על שימושים פוגעניים או יישומים בתחומים רגישים מסוימים. לגבי שמירת הפרומפטים והטקסט שנוצר, הדבר תלוי במדיניות השרתים שמקבלים את הקריאות מהקוד.

• שימוש מסחרי
• שינוי הקוד
• מגבלות שימוש ברישיון

הרישיון המלא ב־Hugging Face ↗