GPT
W

Wayfarer-12B

קוד פתוח

LatitudeGamesapache-2.02025-01-03

  • transformers
  • safetensors
  • mistral
  • text-generation
  • text adventure

מודל שמיועד להרפתקאות טקסט ומשחקי תפקידים קשוחים שבהם הדמות שלכם באמת יכולה למות. הוא נבנה כדי לשבור את הנטייה המעצבנת של מודלים מודרניים לשמור עליכם תמיד בחיים.

  • 12Bפרמטרים
  • 131,072טוקנים בהקשר
  • 22.8 GBמשקל הקבצים
  • 179הורדות בחודש

מה זה

LatitudeGames לקחו את מודל הבסיס Nemo של Mistral ואימנו אותו מחדש בשני שלבים, במטרה ברורה להחזיר את תחושת הסכנה למשחקי טקסט. בשלב הראשון הם השתמשו ב־180 אלף דוגמאות של שיחה והוראות, ובשלב השני שילבו הרפתקאות טקסט וסימולציות משחק שנוצרו על בסיס תרחישים מ־AI Dungeon. הסימולציות האלה רצו בין שני מודלים ששיחקו זה מול זה עד שהדמות מתה או עד שהגיעו ל־8,000 טוקנים, מה שיצר נתונים שבהם אין חסינות עלילתית.

הגישה הזו מייצרת טון פסימי ועולם שלא עושה הנחות. במקום עוד מודל 12B שעבר יישור מוגזם ועונה בנימוס סטרילי, מקבלים כאן מספר סיפורים שיודע להעניש על טעויות, להפגיש את השחקן עם כישלונות אמיתיים ולשמור על מתח נרטיבי.

מתאים ל

  • משחקי הרפתקה בטקסט

    אידיאלי למי שמפתח משחקי טקסט אפלים ומחפש מנחה שלא מפחד להרוג דמויות.

  • סימולציות תפקידים שולחניים

    מייצר התנגדות ממשית לשחקן ומנהל עולם שלא מוותר על השלכות של פעולות שגויות.

  • יצירת תוכן נרטיבי מחוספס

    מתאים לכתיבת קטעי עלילה בגוף שני שדורשים מתח, סכנה וטון ישיר ופסימי.

איפה זה נופל

המודל אומן אך ורק בשפה האנגלית, וכל הנתונים שלו נכתבו בגוף שני וזמן הווה. אם תנסו להריץ איתו סיפור בגוף שלישי, בעבר, או בעברית, התוצאות כנראה יהיו נחותות משמעותית. בנוסף, שלב האימון כלל רק דאטה של שיחה בפנייה בודדת בכל פעם ולא היסטוריה מרובת תורות, כך שבמשחקים ארוכים תצטרכו לנהל את הזיכרון וההקשר בקפידה בקוד שלכם ולא להסתמך על כך שהמודל יחזיק את העלילה לבד.

אותה משפחה

Wayfarer יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

שאלות
נפוצות

האם אפשר להשתמש במודל הזה לצ'אטבוט רגיל לעסק?

לא כדאי. המודל אומן במכוון עם אופי פסימי, חוסר נחמדות ומיקוד במשחקי תפקידים בגוף שני, כך שהוא עשוי להתייחס למשתמשים שלכם בחוסר סבלנות.

איך המודל מתמודד עם השפה העברית?

הוא מוגדר רשמית כמודל באנגלית בלבד ואומן על טקסטים באנגלית. הוא לא נבנה לעברית ויספק תוצאות שבורות או לא עקביות בשפה הזו.

איך מריצים

כדי להריץ את משקלי המקור המלאים בפורמט bfloat16 תצטרכו כרטיס מסך עם לפחות 24GB של זיכרון גרפי, כי 14 הקבצים שוקלים יחד 22.8GB. יש גם שחרור מקוונטט בפורמט GGUF מאותו יוצר, שמאפשר להריץ אותו מקומית על מחשבים אישיים עם פחות זיכרון דרך llama.cpp או כלים דומים.

המפתחים ממליצים להשתמש בפורמט ChatML ולהגדיר טמפרטורה של 0.8, עונש חזרתיות של 1.05 ו־min_p של 0.025, מכיוון שארכיטקטורת Nemo רגישה יחסית להגדרות חום גבוהות. מי שרק רוצה לבדוק את הסגנון שלו בלי להוריד עשרות גיגה־בייט לחומרה מקומית יכול להתנסות בו ישירות באתר של AI Dungeon.

from transformers import pipeline

pipe = pipeline("text-generation", model="LatitudeGames/Wayfarer-12B")
print(pipe("שלום"))

הרישיון

הוא מופץ תחת רישיון apache-2.0. זהו רישיון קוד פתוח מתירני שמאפשר להשתמש במודל לצרכים מסחריים, לשנות אותו ולהפיץ אותו בתוך מוצרים, כל עוד שומרים על הודעת זכויות היוצרים והרישיון המקורי.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗