Silicon-Maid-7B

מה זה

מדובר במיזוג מודלים שמבוסס על מיסטרל, שנוצר בשיטת דאר טייס ומחבר בין כמה מודלים קיימים כמו אקס דאן, לויאל פיאנו, ונורומייד. המטרה של התהליך הזה הייתה לחבר בין היכולת של אקס דאן במבחני שיחה לבין היצירתיות של המודלים האחרים, במיוחד בהקשר של מעקב אחרי כרטיסי דמות במשחקי תפקידים.

במדד אמ טי בנץ' המודל הגיע לציון שבע נקודה תשעים ושש. בפועל זה אומר שמבחינת זרימת דיאלוג רב שלבי ויכולת תגובה להנחיות שיחתיות, הוא מספק ביצועים שמתקרבים מאוד למודלים קנייניים ותיקים, והוא עוקף מודלים פתוחים גדולים ממנו בהרבה. בנוסף, במבחני שפה כלליים כמו טרות'פול קיו איי הוא הגיע לציון שישים ואחת נקודה חמש, שמעיד על דיוק סביר יחסית לגודל שלו.

ההבדל מול מודלים רגילים בגודל שבעה מיליארד הוא הכוונון הברור לתוכן שיחתי ועלילתי, כולל תוכן למבוגרים שלא עובר סינון. במקום לנסות לפתור בעיות היגיון מורכבות, הוא מכוון כולו לייצור טקסט יצירתי, דיאלוגים מהירים והבנה טובה של פורמט אלפקה בתוך ממשקי צ'אט.

מתאים ל

• משחקי תפקידים באנגלית

  הוא מיועד במיוחד לנהל שיחות לפי הגדרות דמות מפורטות ולשמור על אופי עקבי לאורך זמן.

• כתיבת סיפורים ודיאלוגים

  המיזוג נבנה לייצר טקסט יצירתי וגמיש בלי הניסוחים היבשים שמאפיינים מודלי בסיס סטנדרטיים.

• עבודה עם ממשקי צ'אט פרטיים

  הוא מותאם למבנה ההנחיות של כלי צ'אט מקומיים כמו סילי טברן ותומך בפורמט אלפקה בצורה מדויקת.

איפה זה נופל

היוצר מציין במפורש שבמהלך המיזוג המודל איבד חלק ניכר מיכולות הקידוד והחשיבה הלוגית שהיו במודל הבסיס. זה אומר שהוא לחלוטין לא מתאים לכתיבת קוד, למתמטיקה או לניתוח טכני מעמיק. מעבר לזה, המודל אומן על אנגלית בלבד, כך שאין מה לבנות עליו לפרויקטים בעברית. שילוב רכיבי תוכן למבוגרים גם מסיר חסימות בטיחות, אז הוא לא מתאים לממשקים ציבוריים ללא בקרת תוכן.

איך מריצים

כדי להריץ אותו במשקל המקורי בדיוק בי פלוט שש עשרה תצטרכו להוריד שלושה עשר וחצי גיגה בייט של קבצים, מה שדורש כרטיס מסך עם לפחות שישה עשר גיגה זיכרון גרפי. אם אתם עובדים על מחשב ביתי, אפשר להשתמש בגרסאות מכווצות שפורסמו עבורו, ולטעון אותן על חומרה צנועה יותר דרך תוכנות שתומכות בפורמטים מכווצים.

ההרצה עצמה עובדת דרך ספריית טרנספורמרס בפורמט פניות של אלפקה, שבו יש הוראה ותשובה. אם אין לכם כרטיס מתאים ואתם צריכים רק לבדוק תגובות מדי פעם, עדיף לפנות לשרת ענן שכבר מחזיק מכונה עם כרטיס גרפי ייעודי, כי להחזיק שרת כזה דולק עולה כסף שלא תמיד שווה את התמורה עבור מודל פתוח קטן.

from transformers import pipeline

pipe = pipeline("text-generation", model="SanjiWatsuki/Silicon-Maid-7B")
print(pipe("שלום"))

הקבצים

13 קבצים במאגר, 13.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00002.safetensors10.0 GB
• model-00002-of-00002.safetensors4.5 GB
• tokenizer.json1.8 MB
• assets/cybermaid.png1.5 MB
• tokenizer.model493.4 KB
• assets/fig-silicon-loyal.png316.9 KB
• model.safetensors.index.json22.8 KB
• README.md6.1 KB
• .gitattributes1.6 KB
• assets/MinP.json1.1 KB
• tokenizer_config.json967 B
• config.json641 B
• special_tokens_map.json414 B

הרישיון

הפרויקט מופץ תחת רישיון קריאייטיב קומונס ייחוס ארבע נקודה אפס. זהו רישיון מתירני שמאפשר שימוש מסחרי, שינוי והפצה מחדש של המשקלים. התנאי המרכזי והיחיד הוא מתן קרדיט ברור ליוצר המקורי, ציון הרישיון וציון אם בוצעו שינויים במודל. אם אתם מוציאים מוצר שמבוסס עליו, עליכם רק לכלול את הצהרת הייחוס הזו במסמכים או בממשק שלכם.

• שימוש מסחרי
• שינוי הקוד
• חובת ייחוס

הרישיון המלא בעמוד המודל ↗