GPT
הוספת כלי
A

alpaca-native

קוד פתוח

maicomputerרישיון לא דווח2023-03-16

  • transformers
  • pytorch
  • llama
  • text-generation
  • text-generation-inference

שחזור מוקדם של אלפקה המקורית מסטנפורד שמאומן לעקוב אחרי הוראות. שווה להסתכל עליו בעיקר אם אתם חוקרים היסטוריה של מודלי שפה פתוחים.

  • 25.1 GBמשקל הקבצים
  • 808הורדות בחודש
  • 262לייקים
  • 32שכבות

מה זה

זהו שחזור ישיר של פרויקט Alpaca המקורי מבית סטנפורד, מבוסס LLaMA, שאומן בשיטת FSDP עם שינויים קלים. המטרה שלו הייתה להביא יכולת מעקב אחר פקודות למודל משקל קל יחסית, והוא עשה רעש גדול כשיצא במרץ 2023.

תוצאות המבחנים שלו מספרות את הסיפור המלא. בבדיקות של השלמת משפטים והיגיון יומיומי כמו HellaSwag הוא מגיע ל־77.09, אבל הממוצע הכללי עומד על 41.96 בלבד. בבדיקות ידע רחב של MMLU הוא עומד על 41.6, מה שאומר שהוא בעיקר יודע לחקות ניסוח אנושי ולא באמת להבין נושאים עמוקים.

מתאים ל

  • מחקר היסטורי של מודלים

    הוא מדגים בדיוק איך נראו הניסיונות הראשונים של קהילת הקוד הפתוח לשחזר את יכולות ההוראות של אלפקה.

  • השוואת ביצועים מול ישן

    הוא מתאים כבסיס השוואה כדי לבדוק כמה מודלים קטנים ומודרניים התקדמו מאז מרץ 2023.

  • ניסויי המרה וכיול משקלים

    משקלי float32 מלאים מספקים חומר גלם טוב למי שרוצה להתאמן על המרה לפורמטים מכווצים בעצמו.

איפה זה נופל

אל תבנו עליו לשום דבר שקשור למספרים או עובדות מדויקות. במבחן המתמטיקה GSM8K הוא קיבל ציון של 1.44 בלבד, וב־DROP הוא עומד על 14.23. מדובר במודל שנוטה להמציא דברים בביטחון, ואסור לשלב אותו בשום תהליך שדורש חישוב, ניתוח נתונים או דיוק עובדתי.

שאלות
נפוצות

האם המודל הזה מתאים לעבודה בעברית?

המודל מבוסס על LLaMA המקורית ואומן על הוראות באנגלית. הוא לא יבין עברית בצורה סבירה ויחזיר בעיקר ג'יבריש או שגיאות.

למה הקבצים שוקלים 25.1 גיגה בייט?

המשקלים נשמרו בדיוק מלא של float32 במקום float16 או פורמט מכווץ. זה מנפח את הקבצים פי שניים בלי לתת שום יתרון מורגש באיכות התשובות.

איך מריצים

המודל מגיע ב־14 קבצים ששוקלים יחד 25.1 גיגה בייט בגלל דיוק float32 מלא, שזה כבד ולא יעיל לשימוש מודרני. כדי להריץ אותו כמו שהוא צריך כרטיס מסך עם לפחות 32 גיגה זיכרון, או לחלופין להמיר אותו בעצמכם לדיוק נמוך יותר דרך ספריית transformers.

אם אתם סתם צריכים מודל שמבין הוראות ומחזיר טקסט שוטף, חבל על החשמל ועל המאמץ הטכני. עדיף בהרבה לפנות ל־API מודרני או לקחת מודל עדכני שכבר מגיע מכווץ ודורש חומרה צנועה בהרבה.

from transformers import pipeline

pipe = pipeline("text-generation", model="maicomputer/alpaca-native")
print(pipe("שלום"))

הקבצים

14 קבצים במאגר, 25.1 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

היוצר לא הגדיר שום רישיון בעמוד המודל. במצב כזה, ברירת המחדל החוקית היא זכויות יוצרים מלאות, ואסור לכם להשתמש בו במוצר מסחרי, לשלב אותו באפליקציה או אפילו להפיץ אותו הלאה בלי לקבל אישור מפורש.

הרישיון המלא בעמוד המודל ↗