GPT
O

open-o1

רץ בדפדפן

happzy2633apache-2.02024-10-03

  • gradio

ממשק שיחה פשוט לבדיקת מודל הקוד הפתוח OpenO1 מבוסס LLaMA. הוא מיועד למי שרוצה להתנסות ביכולות המודל ישירות בדפדפן בלי להתקין סביבת פיתוח מקומית.

  • הורדות בחודש
  • 111לייקים

מה זה

אתם כותבים שאלה או הנחיה בתיבת הטקסט, ומקבלים תשובה ממודל השפה בחלון שיחה סטנדרטי. הממשק כולל גם תיבה לעריכת הנחיית המערכת שמוגדרת כברירת מחדל לזיהוי המודל כעוזר מועיל, כך שאפשר לשנות את ההתנהגות הבסיסית שלו לפני ששואלים.

מאחורי הקלעים רץ המודל OpenO1-LLama-8B-v0.1, שמנסה לחקות יכולות חשיבה והסקה על בסיס ארכיטקטורת LLaMA בגודל שמונה מיליארד פרמטרים. הקוד עצמו קורא לפונקציה פנימית שמנהלת את הגישה למודל ומחזירה את פלט הטקסט אל היסטוריית השיחה.

מתאים ל

  • בדיקת יכולות המודל

    הרצת שאלות ובדיקת איכות התשובות של OpenO1 ישירות בדפדפן בלי להוריד משקלים.

  • ניסוי בהנחיות מערכת

    שינוי שדה ה־System כדי לראות איך המודל מגיב להגדרות תפקיד שונות.

  • השוואת מודלי 8B

    הערכת ביצועי מודל חשיבה פתוח מול חלופות אחרות בגודל דומה.

איפה זה נופל

זהו ממשק טקסט בלבד, בלי תמיכה בהעלאת קבצים, תמונות או מסמכים. הממשק מציג טקסט פלייסהולדר בסינית ומכיל כפתור ניקוי בסיסי בלבד. בנוסף, מודל של שמונה מיליארד פרמטרים מוגבל מאוד ביחס למודלים מסחריים כבדים, ולכן לא כדאי להסתמך עליו לפתרון בעיות לוגיות מורכבות בלי לבדוק את התוצאות היטב.

שאלות
נפוצות

האם השימוש בממשק עולה כסף?

לא, הממשק פתוח וזמין לשימוש ישיר בדפדפן ללא תשלום. אין צורך להזין פרטי אשראי או להתחבר לחשבון.

האם אפשר להריץ את האפליקציה מקומית על המחשב?

כן, הקוד כולל הוראות פשוטות לשכפול המאגר ב־git, התקנת הדרישות מקובץ requirements.txt והרצה עם python app.py. תצטרכו חומרה מתאימה להרצת מודל בגודל זה.

האם האפליקציה שומרת את השיחות שלי?

הקוד כולל כפתור למחיקת היסטוריית השיחה הנוכחית מהמסך, אך השיחות מעובדות על השרת המארח. אין להזין מידע רגיש או סודי בתיבת הטקסט.

כמה זמן לוקח לקבל תשובה?

בגלל השימוש בחומרת zero-a10g, ייתכן עיכוב ראשוני של חצי דקה אם השרת היה במצב שינה. לאחר מכן יצירת הטקסט מהירה יחסית למודל בגודל 8B.

איך משתמשים

נכנסים לעמוד, מקלידים את השאלה בתיבה עם הטקסט בסינית ולוחצים על Send. אין צורך בהרשמה או התחברות. האפליקציה רצה על חומרת zero-a10g, מה שאומר שאם היא לא הייתה בשימוש לאחרונה, תצטרכו להמתין מספר שניות עד שהמאיץ הגרפי יתעורר ויטען את המודל לזיכרון לפני שתקבלו מענה.

הרישיון

הפרויקט מפורסם תחת רישיון apache-2.0. הרישיון מאפשר שימוש חופשי, שינוי והפצה, כולל לצרכים מסחריים, בכפוף לשמירה על תנאי הרישיון ומתן קרדיט. המידע שנשלח בממשק עובר דרך שרתי השירות שבו האפליקציה מאוחסנת.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗