GPT
הוספת כלי
L

Llama-3-Refueled

קוד פתוח

refuelaicc-by-nc-4.02024-05-03

  • transformers
  • safetensors
  • llama
  • text-generation
  • data labeling

כוונון ייעודי של מודל שמונה מיליארד פרמטרים למשימות תיוג ועיבוד טקסט. התוצאות במבחנים הממוקדים עוקפות מודלים ענקיים, אבל הרישיון חוסם שימוש מסחרי.

  • 8Bפרמטרים
  • 8,192טוקנים בהקשר
  • 15.0 GBמשקל הקבצים
  • 8,381הורדות בחודש

מה זה

הבסיס כאן הוא המודל הפתוח של מטא בגודל שמונה מיליארד פרמטרים, אבל refuelai אימנו אותו מחדש על מעל ארבעה מיליארד טוקנים מיותר מ־2,750 מאגרי נתונים. המטרה היתה להפוך אותו למכונת תיוג וניתוח טקסט, במקום עוד מודל שיחה כללי.

בטבלאות שהם הציגו סביב משימות כמו סיווג, הבנת הנקרא וחילוץ מידע מובנה, הוא מגיע לציון כולל של 79.67%. זה משאיר אבק לגרסת ההוראות המקורית של אותו מודל שעמדה על 62.3%, ואפילו עוקף מודלים עצומים כמו קלוד 3 אופוס או לאמה 70B במשימות הספציפיות האלה.

המשמעות בפועל פשוטה: אם אתם צריכים לסווג תגובות, להתאים ישויות או לחלץ שדות מתוך טקסטים באנגלית, הוא נותן עבודה ברמה של מודלי ענן יקרים, בלי לחרוג מגודל של שמונה מיליארד פרמטרים.

מתאים ל

  • סיווג תגובות וטקסטים

    משיג מעל 81% דיוק בסיווג, בדומה למודלים המובילים בעולם.

  • חילוץ נתונים מובנים

    מגיע ליותר מ־84% הצלחה בהוצאת שדות ופרטים מתוך טקסט חופשי.

  • התאמת ישויות ומאגרים

    אימון ייעודי שמספק 92% התאמה במשימות entity matching.

איפה זה נופל

אין למודל שום מנגנוני סינון ובקרה פנימיים. המפתחים מודים בזה במפורש: הוא פולט מה שהוא רואה לנכון, ואם אתם צריכים תוכן נקי מסכנות או מותאם למשתמשי קצה, תצטרכו לבנות שכבת בדיקות משלכם מעליו.

מעבר לזה, הוא אומן בעיקר באנגלית ומיועד למשימות תיוג ועיבוד. הוא לא נבנה כעוזר אישי לפטפוטים חופשיים, ואם תנסו להשתמש בו למשימות יצירתיות או בעברית, סביר להניח שהביצועים לא יזכירו בכלל את תוצאות המבחנים.

שאלות
נפוצות

האם המודל מתאים לעבודה בעברית?

הוא מוגדר רשמית לאנגלית בלבד, וכל המאגרים ששימשו לאימון הייעודי התמקדו באנגלית. אפשר להריץ עליו טקסט עברי בגלל הבסיס של מטא, אבל לא הייתי בונה עליו לחילוץ נתונים אמין בלי אנגלית.

אפשר להשתמש בו בתור צ'אטבוט לשירות לקוחות?

לא מומלץ בכלל. הוא אומן לתיוג וחילוץ מידע, ואין לו שום מנגנוני הגנה ובטיחות מפני פליטת תוכן בעייתי מול לקוחות אמיתיים.

למה שהמודל ינצח את קלוד ו־GPT-4 Turbo במבחנים?

המבחנים שפורסמו מתמקדים אך ורק במשימות תיוג נתונים שעליהן הוא אומן ישירות. במבחנים כלליים של היגיון, שיחה או כתיבה חופשית, המודלים הגדולים ייקחו אותו בלי מאמץ.

איך מריצים

הקבצים שוקלים 15 גיגה־בייט בדיוק מלא, כך שכדי להריץ אותו בהיסק סביר תצטרכו כרטיס מסך יחיד עם לפחות 16 עד 24 גיגה זיכרון גרפי. הוא נתמך ישירות בספריית transformers עם פייפלין רגיל של יצירת טקסט.

אם אין לכם שרת ייעודי פנוי עם החומרה הזו, או שאתם סתם רוצים לבדוק כמה דוגמאות בודדות, אפשר להשתמש במגרש המשחקים שהחברה העלתה לאתר שלה במקום להרים סביבה מקומית.

from transformers import pipeline

pipe = pipeline("text-generation", model="refuelai/Llama-3-Refueled")
print(pipe("שלום"))

הקבצים

25 קבצים במאגר, 15.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא CC BY-NC 4.0. המשמעות ברורה וחד־משמעית: מותר להשתמש בו למחקר, בדיקות ופרויקטים אישיים, אבל אסור לחלוטין לכל שימוש מסחרי. אי אפשר להכניס אותו כחלק ממוצר שנמכר ללקוחות או מייצר הכנסה ישירה לחברה.

  • שינוי הקוד
  • חובת ייחוס
  • שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗