Orion-14B-App-Demo-EN
רץ בדפדפןOrionStarAIרישיון לא דווח2024-01-22
הדגמה זו בודקת את יכולות משפחת מודלי השפה Orion-14B במגוון משימות טקסט. היא מיועדת למפתחים וחוקרים שרוצים לבחון שיחה, שליפת מידע מתוך מסמכים ושימוש בתוספים.
- —הורדות בחודש
- 41לייקים
מה זה
הממשק מחולק לחמש לשוניות עבודה נפרדות לפי סוג המשימה. אתם מזינים טקסט חופשי, קטעי מסמכים או נתונים בטבלאות, ומקבלים תשובות בצ'אט, חילוץ ערכים מובנה או קוד שמכיל זוגות של שאלות ותשובות. הקוד כולל הגבלת קלט של עד 3000 מילים להרצה, ומאפשר לבחור הגדרות כמו הצגת מקורות ציטוט או טקסט ברירת מחדל בעת כשל.
מאחורי הקלעים רשומות גרסאות שונות של המודל, כולל גרסאות שיחה רגילות, גרסאות ייעודיות להקשר ארוך, מודלים שמותאמים לחיבור תוספים ולשליפת מידע, ומודלים שעברו כימות לדיוק של 4 ביט. המסכים כוללים דוגמאות מובנות מראש לכל לשונית, שממחישות פירוק שאלות על מסמכים, הפעלת ממשקי תכנות חיצוניים דרך שיחה ומיצוי ישויות לתוך טבלה.
מתאים ל
- מענה מבוסס מסמכים
הזנת טקסטים או טבלאות לצורך מענה לשאלות ממוקדות עם אפשרות לציטוט המקורות.
- חילוץ נתונים לטבלה
קריאת טקסט חופשי ושליפת ישויות או ערכים מוגדרים ישירות לתוך מבנה נתונים.
- יצירת זוגות שאלות ותשובות
עיבוד פסקאות מידע והפקת שאלות ותשובות תואמות כבלוק קוד לצורכי אימון ובדיקות.
איפה זה נופל
כרגע ההדגמה נמצאת במצב של שגיאת ריצה ואינה מתפקדת כלל בדפדפן. בנוסף, חומרה של מעבד בסיסי בלבד אינה מתאימה להרצה ישירה של שבעה מודלים שונים בגודל 14 מיליארד פרמטרים. חלק מתוויות הממשק בקוד מופיעות בסינית אף שההדגמה מוגדרת באנגלית, מה שמעיד על עבודה לא גמורה.
שאלות
נפוצות
האם השימוש בהדגמה כרוך בתשלום?
הגישה לעמוד אינה דורשת תשלום או הרשמה. עם זאת, נכון לעכשיו הממשק קרס ומציג שגיאת ריצה, כך שלא ניתן לבצע בו פעולות.
מה קורה לטקסט שמעלים לממשק?
מאחר שלא פורסם רישיון ולא מפורטת מדיניות שמירת נתונים, אין לדעת אם הקלט נשמר בשרת. מומלץ לא להזין מסמכים רגישים או מידע אישי.
במה שונה ההדגמה מהרצת המודל עצמו?
הממשק מציג מעטפת גרפית עם לוגיקה ייעודית לתוספים, חילוץ נתונים ודוגמאות מוכנות. המודלים עצמם הם משקלים שדורשים שרת עם מאיץ גרפי חזק כדי לפעול באופן עצמאי.
האם אפשר להריץ את האפליקציה מקומית?
הקוד בנוי בספריית gradio וטוען סקריפטים שונים של משימות. אם תורידו את הקבצים ותחברו אותם למודלים ולחומרה מתאימה, תוכלו להפעיל את הממשק במחשב שלכם.
איך משתמשים
העבודה מבוססת על בחירת הלשונית המתאימה, הזנת הטקסט בתיבה ולחיצה על כפתור השליחה. אין דרישה להזדהות או יצירת חשבון כדי לצפות במסכים, ודוגמאות מסוימות מוגדרות עם שמירה מוכנה מראש בזיכרון המערכת. יחד עם זאת, הסביבה מוגדרת על שרת בסיסי ללא מעבד גרפי ייעודי, ולכן כל ניסיון חישוב מקומי של מודלים בהיקף כזה צפוי להיות איטי במיוחד.
הרישיון
הרישיון של ההדגמה אינו מצוין בקוד או בעמוד הפרויקט. המשמעות היא שאין הרשאה ברורה לגבי שימוש מסחרי, ואין פרטים על האופן שבו המידע המוזן נשמר או מועבר הלאה.