Bielik-7B-Instruct-v0.1

מה זה

הפרויקט נבנה על ידי צוות SpeakLeash בשיתוף מרכז המחשוב הפולני Cyfronet AGH, במטרה לייצר מענה ספציפי לפולנית על גבי ארכיטקטורת MistralForCausalLM. האימון שילב הוראות פולניות שנאספו ועברו בדיקה אנושית יחד עם תרגומים של מאגרי הוראות מוכרים באנגלית כמו OpenHermes-2.5 ו־orca-math-word-problems-200k.

במבחני Open PL LLM Leaderboard הוא הגיע לציון ממוצע של 39.28. הנקודה שבה הוא בולט מול מודלים אחרים בקטגוריית 7B היא משימת RAG Reader, שם רשם ציון 86.00, מה שמצביע על יכולת טובה לחלץ תשובות מתוך טקסט נתון בפולנית, אם כי בדירוג מחדש למשימות אחזור הוא השיג 61.89 בלבד.

מתאים ל

• מענה על שאלות מטקסט

  הוא מציג ציון של 86.00 במבחן RAG Reader, ולכן מתאים לשליפת תשובות מתוך מקורות מידע בפולנית.

• ניתוח טקסט בפולנית

  עבר אימון על דאטה פולני ממוקד ומבצע משימות סיווג וניתוח סנטימנט מקומיות במחקרים פנימיים.

• בדיקות מקומיות על מחשב אישי

  זמינות גרסאות GGUF ו־MLX שמאפשרות להריץ מודל הוראות שלם על חומרה צרכנית בלי חיבור לרשת.

איפה זה נופל

המודל פותח ללא מנגנוני סינון ובקרת תוכן, ולכן הוא עלול לפלוט תוכן מוטה, שגוי עובדתית או פוגעני. היוצרים מצהירים במפורש שהוא הדגמה מהירה ואינו מתאים להסתמכות על עובדות. חלון ההקשר מוגבל ל־4,096 טוקנים בלבד, מה שמקשה על עיבוד מסמכים ארוכים, ואיכות הפלט הושפעה מחוסר אחידות באיכות מאגרי ההוראות ששימשו באימון.

אותה משפחה

Bielik יצא ב־7 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

כדי להריץ אותו בדיוק המקורי של bfloat16 תצטרכו כרטיס מסך עם לפחות 16GB של זיכרון גרפי, כמו RTX 4090 או כרטיס שרת מקביל, בהתחשב במשקל קבצים של 13.5GB. הקריאה מתבצעת בעזרת ספריית transformers עם פורמט פניות מסוג INST.

אם אין לכם חומרה כזו, המפתחים שחררו גרסאות מכווצות בפורמטים שונים כמו GGUF, AWQ, GPTQ, EXL2 ופורמט MLX עבור מחשבי אפל, שמאפשרים ריצה על מעבדים או מחשבים ניידים. הדמו הציבורי ב־Hugging Face Spaces מתאים לבדיקה ראשונית בלי להגדיר שרת עצמאי.

from transformers import pipeline

pipe = pipeline("text-generation", model="speakleash/Bielik-7B-Instruct-v0.1")
print(pipe("שלום"))

הקבצים

17 קבצים במאגר, 13.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00003.safetensors5.0 GB
• model-00001-of-00003.safetensors4.9 GB
• model-00003-of-00003.safetensors4.5 GB
• tokenizer.json1.8 MB
• tokenizer.model493.4 KB
• sft_train_lr.png72.0 KB
• sft_train_loss.png66.5 KB
• sft_train_ppl.png60.6 KB
• model.safetensors.index.json23.9 KB
• README.md19.4 KB
• speakleash_cyfronet.png15.2 KB
• tokenizer_config.json1.8 KB
• .gitattributes1.5 KB
• config.json593 B
• info.json137 B
• generation_config.json111 B
• special_tokens_map.json72 B

הרישיון

הרישיון הוא CC BY-NC 4.0, מה שאומר שמותר להשתמש בו למחקר, בדיקות ופרויקטים פרטיים בלבד. המפתחים בחרו ברישיון זה בגלל אי בהירות משפטית, ולכן אסור לחלוטין לשלב אותו במוצר מסחרי, באפליקציה בתשלום או במערכת ארגונית מניבה.

• שינוי הקוד
• חובת ייחוס
• שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗