GPT
L

llama-3-70b-bnb-4bit

קוד פתוח

unslothapache-2.02024-04-18

  • transformers
  • safetensors
  • llama
  • text-generation
  • unsloth

llama-3-70b-bnb-4bit הוא מודל בקוד פתוח מאת unsloth, למשימת text-generation. הכל בעמוד הזה נקרא מ־Hugging Face ב־2026-09-17.

  • 73Bפרמטרים
  • 8,192טוקנים בהקשר
  • 36.8 GBמשקל הקבצים
  • 237הורדות בחודש

מה זה

הוא בנוי בארכיטקטורת LlamaForCausalLM, עם 73B פרמטרים על פני 80 שכבות, וחלון ההקשר שלו הוא 8,192 טוקנים. המשקלים נשמרו ב־bfloat16.

במאגר 15 קבצים במשקל 36.8 GB סך הכול. הרישיון המדווח הוא apache-2.0, ושם של רישיון הוא לא תחליף לקריאה שלו. המספרים בעמוד נקראו מ־Hugging Face ב־2026-09-17. השפות שמצוינות בכרטיס: en.

אותה משפחה

llama-3 יצא ב־6 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

מה זה llama-3-70b-bnb-4bit?

llama-3-70b-bnb-4bit הוא מודל בקוד פתוח מאת unsloth, למשימת text-generation. הוא פורסם ב־Hugging Face ב־2024-04-18.

מה הרישיון של llama-3-70b-bnb-4bit?

הרישיון המדווח הוא apache-2.0. רישיון קובע מה מותר לעשות עם המודל מסחרית, ולכן כדאי לקרוא אותו ולא להסתפק בשם.

כמה משתמשים ב־llama-3-70b-bnb-4bit?

237 הורדות ו־50 לייקים לפי Hugging Face. מספרי הורדה מודדים שימוש אוטומטי לא פחות מאשר אנושי, אז הם סימן לפופולריות ולא מדד איכות.

איך מריצים

הפקודה למטה מושכת את המודל ישירות מ־Hugging Face. אין צורך להוריד קובץ ידנית.

from transformers import pipeline

pipe = pipeline("text-generation", model="unsloth/llama-3-70b-bnb-4bit")
print(pipe("שלום"))

הרישיון

הרישיון המדווח הוא apache-2.0. שם של רישיון הוא לא תחליף לקריאה שלו, במיוחד כשמדובר במוצר מסחרי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗