G4-MeroMero-26B-A4B-gguf

קוד פתוח

zerofataapache-2.02026-04-16

gguf
endpoints_compatible
conversational

גרסת GGUF שעברה כוונון עדין ואיחוד על בסיס Gemma 4 למשחקי תפקידים. היא מציעה ניסוח ישיר וחסכוני יותר באסימונים לעומת מודל המקור.

164 GBמשקל הקבצים
8,042הורדות בחודש
64לייקים

מה זה

הפיתוח הזה לוקח את הדגם המקורי של גוגל, מעביר אותו אימון על כ־35 מיליון אסימונים בדגש על שיחות מרובות תורות, וממזג אותו חזרה בחלקים שווים עם גרסת ההוראות המקורית. המטרה של המיזוג הייתה לתקן פגיעה בהיגיון שהתרחשה בזמן האימון, כי המודל הבסיסי נוטה לאבד מהיכולות שלו ברגע שמנסים לכוונן אותו.

התוצאה בפועל שומרת על רמת ההיגיון והחזרתיות של המקור, אבל משנה את סגנון הכתיבה למשהו פחות מנופח ופחות מליצי. במקביל, מבנה החשיבה מאורגן יותר וצורך פחות אסימונים בזמן יצירת הטקסט, כשיש תמיכה מלאה במצבי עבודה עם חשיבה מפורשת או בלעדיה.

מתאים ל

משחקי תפקידים בטקסט
האימון מתמקד בשיחות מרובות תורות ומייצר תגובות קצרות ופחות מנופחות.
עבודה עם חלון אסימונים קצר
מבנה החשיבה חסכוני באסימונים ומאפשר לשמור על הקשר בלי לפוצץ את המכסה.
בוטים עם סגנון ישיר
המיזוג מנקה את הניסוח המליצי המקורי ומשאיר כתיבה נקייה וממוקדת.

איפה זה נופל

היוצר מציין במפורש שמגוון התשובות לא השתפר כלל, כך שאם תבקשו ניסוח מחדש תקבלו תוצאות דומות מדי. מעבר לזה, רמת ההיגיון והנטייה לחזרתיות רק נשמרו ברמה של גוגל ולא עלו, מה שאומר שאסור לבנות עליו לפעולות לוגיות מורכבות.

אותה משפחה

G4-MeroMero יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

G4-MeroMero-26B-A4B867 G4-MeroMero-v2-31B866 G4-MeroMero-31B132

שאלות
נפוצות

איזה קובץ צריך להוריד מתוך ה־164 גיגה בייט?

המאגר כולל גרסאות כיול שונות של אותו מודל, ואין צורך להוריד את כל 11 הקבצים. אתם בוחרים רק קובץ בודד שמתאים לגודל הזיכרון בכרטיס המסך שלכם ומריצים אותו.

האם המודל שומר על היכולות של המקור?

היוצר ביצע מיזוג שווה בין המודל המאומן לגרסת ההוראות המקורית כדי להחזיר את יכולות ההיגיון שנפגעו באימון. התוצאה הסופית שומרת על רמת ההיגיון והחזרתיות של המקור, לצד סגנון ניסוח שונה.

איך מריצים

המשקל הכולל של הקבצים מגיע ל־164 גיגה בייט ומחולק ל־11 קבצים שונים, כך שאתם צריכים לבחור קובץ כיול ספציפי שמתאים לזיכרון שלכם ולא להוריד את כולם. המודל מתבסס על ארכיטקטורת תערובת מומחים עם 26 מיליארד פרמטרים שבהם ארבעה מופעלים בכל פעם, והיוצר מדווח שכרטיס בודד של 32 גיגה בייט החזיק אורך הקשר של 2048 בלבד לפני שנגמר לו הזיכרון.

אם אתם צריכים הקשר ארוך של מעל 4000 אסימונים תצטרכו כרטיסים של 48 גיגה בייט ומעלה או מערך מרובה כרטיסים. למי שאין לו חומרה ייעודית כזאת בבית, שרת מקומי לא ייתן ביצועים שפויים ועדיף לפנות למודל מנוהל בענן.

ollama run hf.co/zerofata/G4-MeroMero-26B-A4B-gguf:Q4_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

BF1650.5 GB Q8_026.9 GB Q6_K22.6 GB Q5_K_M19.1 GB Q4_K_M16.8 GB IQ4_XS13.9 GB Q3_K_M13.3 GB IQ3_M12.4 GB

הקבצים

11 קבצים במאגר, 164 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא Apache 2.0, שמאפשר שימוש חופשי כולל שימוש מסחרי, שינוי הקוד והפצה מחדש. אתם יכולים לשלב אותו במוצר שלכם כל עוד אתם שומרים על הודעת זכויות היוצרים והרישיון המקורי.

שימוש מסחרי
שינוי הקוד
הפצה מחדש
שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗