dolphin-2.6-mistral-7b-dpo-laser

מה זה

מדובר בעיבוד של דולפין שמבוסס על מיסטרל שבעה מיליארד פרמטרים, שעבר אימון DPO ולאחר מכן ניקוי רעשים בשכבות בשיטת LASER ופירוק SVD. המפתחים השתמשו בחישובים מתמטיים של תורת המטריצות האקראיות כדי להוריד רעש מהמשקולות במקום לחפש ידנית, במטרה לשפר את איכות ההסקה.

במבחני הביצועים של הארנס הוא מציג עליות קלות לעומת גרסת הדי פי או הרגילה. הוא רושם שיפור קל במבחני הגיון ומתמטיקה כמו ג'י אס אם שמונה קיי עם 54.97 לעומת 53.83, וציון של 61.06 בטרוטפול קיו איי לעומת 60.8. בבחינת ידע כללי של MMLU יש דווקא ירידה זעירה משישים ואחת נקודה תשע לשישים ואחת נקודה שבעים ושבע, כך שעיקר השינוי מתבטא ביציבות הפלט ולא בקפיצת מדרגה קיצונית בידע.

המאפיין הבולט ביותר כאן הוא היעדר צנזורה. הדאטה סט נוקה מראש מכל שכבת תאימות או הטיה, מה שהופך אותו לצייתן במיוחד לכל פרומפט שתזינו, בלי מנגנוני סירוב מובנים.

מתאים ל

• עוזר מקומי ללא הגבלות

  מתאים למי שצריך מודל שלא יסרב לפקודות שנויות במחלוקת או לפרומפטים ישירים.

• אינטגרציה עם KoboldAI

  מבנה הטוקנים תואם למזהה סיום של המערכת ויכול לעבוד מולה ישירות.

• ניסויי מחקר בשיטת LASER

  בדיקת השפעת הפחתת הרעש המתמטית על דיוק התשובות והיציבות שלהן.

איפה זה נופל

המודל מוגדר כלא מצונזר לחלוטין. הוא יענה על כל בקשה בלי סינון, כולל תוכן לא אתי, כך שאסור לחבר אותו ישירות למשתמשי קצה בלי לבנות שכבת הגנה וסינון משלכם בקוד. בנוסף, הוא אומן באנגלית בלבד. הנתונים מראים גם שההבדלים במבחנים לעומת הגרסה הרגילה קטנים מאוד, ובמבחן MMLU התוצאה שלו אפילו נמוכה יותר.

איך מריצים

המשקלים תופסים 13.5 גיגה בייט בדיוק bfloat16 ומחולקים לשלושה עשר קבצים שרצים ישירות דרך ספריית transformers. כדי להריץ אותו בלי שום כימות צריך כרטיס מסך עם לפחות ששה עשר עד עשרים וארבעה גיגה בייט של זיכרון וידאו, בדיוק כמו הריצה של המפתחים שלקחה שלוש שעות על כרטיס אר טי אקס 4090.

אם אין לכם חומרה ייעודית מקומית, עדיף להשתמש בשרת ענן שכור לפי שעה או שירותי הרצה מנוהלים. המודל עובד במבנה שיחה של ChatML, וממפה את סיום ההודעה לטוקן שתיים כך שהוא מתאים ישירות לכלים שתלויים במזהה הזה כמו קובולד איי איי.

from transformers import pipeline

pipe = pipeline("text-generation", model="dphn/dolphin-2.6-mistral-7b-dpo-laser")
print(pipe("שלום"))

הקבצים

13 קבצים במאגר, 13.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00003.safetensors5.0 GB
• model-00001-of-00003.safetensors4.9 GB
• model-00003-of-00003.safetensors4.5 GB
• tokenizer.json1.8 MB
• tokenizer_config.json675.8 KB
• tokenizer.model493.4 KB
• model.safetensors.index.json23.9 KB
• README.md5.1 KB
• .gitattributes1.5 KB
• config.json666 B
• special_tokens_map.json563 B
• generation_config.json111 B
• added_tokens.json28 B

הרישיון

הרישיון הוא אפאצ'י שתיים אפס. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, לארח אותו במוצר ולסגור את הקוד שלכם, בתנאי ששומרים על הודעת זכויות היוצרים המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗