ReWOO-Demo

מה זה

אתם מקלידים שאלה בתיבת הטקסט, בוחרים מודל מתוך הרשימה ומסמנים באילו כלים מותר לו להשתמש, כמו ויקיפדיה, גוגל, וולפראם אלפא או מחשבון. לאחר ההרצה מופיעים שלושה שדות נפרדים: התכנון המקדים של המשימה, שלב הפתרון שמשלב את תוצאות הכלים, והתשובה הסופית.

מאחורי הקלעים הדמו מציע בחירה בין text-davinci-003 לבין gpt-3.5-turbo, לצד שימוש במודלים מקומיים כמו rewoo/planner_7B, llama-7b ו־alpaca-lora-7b שנועדו להפריד בין שלב התכנון לשלב הביצוע. המטרה היא לצמצם קריאות חוזרות למודלים יקרים על ידי תכנון מראש של כל הצעדים.

מתאים ל

• בדיקת פירוק משימות

  בוחנים כיצד המערכת מייצרת תוכנית עבודה מרובת שלבים לפני פנייה לכלים חיצוניים.

• אימות עובדות ברשת

  מזינים טענה ובודקים את השילוב בין חיפוש בגוגל לוויקיפדיה לצורך מתן תשובה מנומקת.

• פתרון בעיות חישוביות

  מריצים שאלות שמצריכות שימוש משולב במחשבון או בוולפראם אלפא לצד מודל שפה.

איפה זה נופל

ההדגמה לא עובדת מהקופסה בלי מפתחות גישה אישיים שאתם מביאים מהבית, מה שאומר שאתם משלמים על הטוקנים מחשבונכם הפרטי. בנוסף, הדגמים הרשומים ברקע כוללים גרסאות ישנות יחסית כמו דגמי שבעה מיליארד פרמטרים מ־2023 ומודלים של OpenAI שכבר אינם בשימוש נרחב, ולכן הביצועים בפועל עלולים להיות שבירים או מוגבלים מול משימות חשיבה מודרניות.

איך משתמשים

כדי להפעיל את הדמו חייבים להזין מפתח OpenAI פרטי בתיבת הטקסט הייעודית, ואם בחרתם בכלי של גוגל תצטרכו להקליד גם מפתח של SerpAPI. ההדגמה נמצאת כרגע במצב שינה, כך שהפתיחה שלה דורשת המתנה של דקה או שתיים להתעוררות השרת. החומרה מוגדרת על מעבד בסיסי בלבד, מה שאומר שעיבוד הבקשות וקריאות ה־API החיצוניות עשויים לקחת זמן ולא ירוצו מהר.

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0, שמאפשר שימוש חופשי בקוד, שינוי שלו והרצה למטרות מסחריות ואישיות. הנתונים שאתם מקלידים נשלחים ישירות לממשקי ה־API של המודלים והכלים שהגדרתם לפי המפתחות שהזנתם.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗