ChatImprovement
רץ בדפדפןwangrongshengרישיון לא דווח2023-03-26
ממשק צ'אט שמיועד לעבודה מול מודלים של OpenAI עם שליטה בהגדרות מערכת ופרמטרים. מתאים למי שרוצה לבדוק הנחיות מערכת וטמפרטורה עם מפתח API אישי.
- —הורדות בחודש
- 45לייקים
מה זה
המסך מציג חלון שיחה שמבוסס על Gradio. בצד אחד רואים את היסטוריית השיחה, ובצד השני מזינים מפתח OpenAI API, שאלות או בקשות, וטקסט להנחיית מערכת ראשונית. הפלט מתקבל ישירות בתוך רכיב הצ'אט לאחר עיבוד התשובה.
מתחת למכסה המנוע הקוד נשען על פונקציית חיזוי חיצונית ומשתמש בספריית toolbox כדי לפרמט את הקלט והפלט. במקום לתת ממשק סגור, הוא חושף אפשרות לקבוע את התנהגות המודל דרך System Prompt ולהוסיף כפתורים פונקציונליים שמריצים פעולות מוגדרות מראש.
בנוסף, ישנו תפריט מתקדם שפותח סליידרים לכיוונון פרמטרים של יצירת הטקסט. אפשר לשלוט שם בערכי Temperature עד 5.0 וערכי Top-p עד 1.0, כך שתוכלו לבדוק בדיוק איך שינויי הסתברות משפיעים על התוצאות שחוזרות מהמודל.
מתאים ל
- בדיקת הנחיות מערכת
מזינים System Prompt ובודקים איך המודל מגיב לשינויי ניסוח דרך מפתח אישי.
- כיוונון פרמטרי דגימה
משנים את ערכי Temperature ו־Top-p כדי לראות את רמת היצירתיות של התשובות.
- הפעלת פונקציות מותאמות
שימוש בכפתורים מובנים כדי להריץ שאילתות מוגדרות מראש על הטקסט שהוזן.
איפה זה נופל
הבעיה המרכזית היא שהחלל נמצא כרגע במצב RUNTIME_ERROR, ולכן הממשק לא מתפקד בכלל ברשת. אי אפשר להשתמש בו ישירות מדף ההדגמה בלי להוריד את הקוד, לפתור את השגיאות ולהריץ אותו בסביבה משלכם.
בנוסף, אין כאן מודל עצמאי שרץ על השרת. הכלי מחייב מפתח API פרטי של OpenAI, כך שאתם נושאים בעלויות השימוש וחשופים למגבלות הרשת של ספק המודל. הקוד כולל גם בדיקות פרוקסי ופונקציות מסוימות שנראות מנוטרלות בחלקן, מה שעלול להגביל חלק מהיכולות שהיו מתוכננות בו במקור.
שאלות
נפוצות
האם השימוש באפליקציה בחינם?
הקוד עצמו פתוח לעיון, אבל השימוש מחייב מפתח API של OpenAI. התשלום על הפניות יורד מחשבון ה־OpenAI שלכם לפי התעריפים שלהם, כך שהשימוש בפועל עולה כסף.
מה קורה עם מפתח ה־API והטקסט שאני מקליד?
הנתונים נשלחים מהקוד אל השרתים של OpenAI לצורך הפקת התשובה. הממשק שרץ על השרת מעבד את המפתח וההודעות, ולכן כדאי להיזהר מהזנת מפתחות רגישים במרחב ציבורי.
האם אפשר להריץ את הכלי במחשב שלי?
כן, הקוד כתוב בפייתון עם ספריית Gradio וזמין להורדה. תצטרכו להתקין את התלויות, לפתור את שגיאת הריצה שקיימת כרגע בגרסת הרשת, ולהגדיר את המפתח שלכם מקומית.
למה האפליקציה לא עונה כשאני לוחץ על כפתורים?
המרחב מדווח כרגע במצב של תקלת ריצה ולא נטען כמו שצריך. עד שהיוצר יעדכן את הקוד ויתקן את השגיאה, אי אפשר להשתמש בממשק ישירות בדפדפן.
איך משתמשים
כדי להשתמש בממשק צריך להזין מפתח OpenAI תקין בתיבת הטקסט הייעודית, לכתוב שאלה וללחוץ על כפתור Ask. אפשר גם לערוך את שדה הנחיית המערכת או ללחוץ על כפתורי הפונקציות המוכנים מראש כדי להפעיל עיבודים מוגדרים.
הקוד רץ על חומרת מעבד בסיסית, אבל זמן התגובה תלוי בעיקר בשרתים של OpenAI ובמפתח שהזנתם ולא בכוח העיבוד של השרת המקומי. כרגע המרחב נמצא במצב שגיאת ריצה, כך שאי אפשר להריץ אותו ישירות בדפדפן בלי לתקן את הקוד תחילה.
הרישיון
הרישיון של המאגר לא דווח. המשמעות היא שאין הרשאה מפורשת לשימוש מסחרי, לשינוי הקוד או להפצה מחדש, וכל הזכויות שמורות ליוצר. לגבי המידע שאתם מזינים, הוא נשלח עם מפתח ה־API שלכם ישירות לשרתי OpenAI וכפוף למדיניות הפרטיות שלהם.