GPT
הוספת כלי
G

gpt4-x-alpaca

קוד פתוח

maicomputerרישיון לא דווח2023-03-31

  • transformers
  • pytorch
  • llama
  • text-generation
  • text-generation-inference

שילוב מוקדם בין alpaca-13b לבין כוונון עדין על תשובות של GPT-4. הוא פונה למי שמחפש מודל שיחה היסטורי מתקופת הניסויים הראשונה סביב LLaMA.

  • 48.5 GBמשקל הקבצים
  • 83הורדות בחודש
  • 485לייקים
  • 40שכבות

מה זה

מדובר במודל שמבוסס על alpaca-13b, אשר עבר אימון נוסף במשך שלושה מחזורים על גבי תשובות שנוצרו על ידי GPT-4. המטרה של המהלך הזה הייתה לנסות להעתיק את סגנון התשובות והיכולות של מודל הדגל הגדול אל תוך בסיס של 13 מיליארד פרמטרים, באמצעות ארכיטקטורת LlamaForCausalLM עם 40 שכבות.

מבחני הביצועים מראים תמונה מעורבת מאוד שמשקפת בדיוק את המגבלות של התקופה שבה הוא שוחרר. הוא מגיע לציון ממוצע של 46.78 במבחני ההשוואה הפתוחים, עם תוצאות נאות של 79.59 בבדיקת HellaSwag וציון של 70.17 בבדיקת Winogrande, מה שמעיד על הבנה סבירה של המשכיות טקסט והגיון בסיסי בשפה.

מצד שני, היכולות המורכבות יותר מציגות חולשה בולטת. ציון של 48.19 בבדיקת MMLU מראה ידע כללי מוגבל למדי, והציון של 48.88 בבדיקת TruthfulQA מלמד שהוא נוטה להמציא דברים בקלות כשהוא נשאל על עובדות. הנתונים האלה מסבירים למה הוא מתאים בעיקר להבנת היסטוריית המחקר ופחות לתחליף מודרני.

מתאים ל

  • מחקר היסטורי על זיקוק ידע

    הוא מציג ניסיון מוקדם ומתועד של אימון מודל קטן על פלטים של מודל ענק.

  • השוואת ביצועים באקדמיה

    תוצאות המדידה שלו משמשות נקודת ייחוס לבדיקת התקדמות מודלי 13B מאז 2023.

  • יצירת שיחות פשוטות באנגלית

    הוא מספק דיאלוג בסיסי בסגנון המקורי של Alpaca ללא דרישות דיוק מדעיות.

איפה זה נופל

הנפילה הגדולה ביותר נמצאת בתחום החשיבה הכמותית והמתמטיקה. ציון של 2.81 בלבד במבחן GSM8K אומר שהוא פשוט נכשל כמעט לחלוטין בפתרון בעיות חשבוניות בסיסיות, וציון של 24.99 במבחן DROP מראה קושי חמור בהבנת הנקרא שדורשת פעולות לוגיות. אסור להשתמש בו לחישובים, לקוד או לניתוח נתונים קפדני.

שאלות
נפוצות

האם המודל מתאים לפתרון בעיות מתמטיות או כתיבת קוד?

ממש לא. המבחנים מראים תוצאה של 2.81 ב־GSM8K, שזה כמעט אפס הצלחה בשאלות חשבון. כל ניסיון לחלץ ממנו לוגיקה מספרית יוביל לשגיאות קשות.

האם אפשר להשתמש בו באופן מסחרי במוצר שלי?

לא, כי לא דווח רישיון בכלל בדף המודל. שימוש בקוד או משקלים ללא רישיון ברור אסור על פי חוק ומסוכן לחברות.

איך מריצים

המשקלים נשמרים בדיוק של float32 ונפרסים על פני 17 קבצים בנפח כולל של 48.5 גיגה בייט. בשביל לטעון קבצים כאלה בפורמט המקורי תצטרכו זיכרון וידאו עצום של שני כרטיסי A100 או חומרה מקבילה בתחנת עבודה, מה שהופך את ההרצה בצורתה הגולמית ללא משתלמת עבור רוב האנשים.

אם אתם לא חוקרים ספציפית את המשקלים המקוריים, עדיף להמיר את המודל לפורמטים מכווצים או פשוט לפנות לשירותי ענן ומודלים מסחריים מודרניים דרך API, במקום לשלם על שרת ייעודי רק כדי לפרוס קבצים כבדים בני שנתיים.

from transformers import pipeline

pipe = pipeline("text-generation", model="maicomputer/gpt4-x-alpaca")
print(pipe("שלום"))

הקבצים

17 קבצים במאגר, 48.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

היוצר לא פרסם רישיון שימוש עבור המודל. במצב כזה אין לכם שום הרשאה חוקית להשתמש בו, להפיץ אותו או לשלב אותו בתוך מוצר מסחרי. כל הרצה מעבר למחקר אישי עלולה לחשוף אתכם לתביעות על הפרת זכויות יוצרים.

הרישיון המלא בעמוד המודל ↗