avibe

מה זה

מדובר במודל שפותח על בסיס גרסת הבסיס של קוון שלוש, אך עבר שינוי עמוק שכלל החלפה מלאה של הטוקנייזר והמשך אימון יסודי. המפתחים אימנו אותו על קורפוס טקסט רחב, המשיכו לכוונון עדין של הוראות וסיימו עם שלב למידת חיזוק. המטרה היתה ליצור כלי יעיל יותר לרוסית, כולל תמיכה בהפעלת פונקציות ופתרון שאלות במתמטיקה.

התוצאה היא דחיסת טקסט צפופה יותר, כך שאותו משפט ברוסית דורש פחות טוקנים בהשוואה למודל המקורי. יחד עם ירידה קלה בגודל הכולל, הריצה מהירה יותר בטווח של בין חמישה עשר לעשרים וחמישה אחוזים על טקסטים דומים. במבחני הבנה וידע כללי ברוסית הוא עוקף את גרסת ההוראות המקורית, אם כי באנגלית התמונה מעורבת יותר.

מתאים ל

• בוטים וסיוע ברוסית

  טקסט ברוסית מעובד מהר יותר ובפחות טוקנים, מה שחוסך זמן תגובה ומשאבים.

• הפקת תוכן משולב

  מתאים לעבודה שוטפת מול שילוב של רוסית ואנגלית במערכות תוכן מקומיות.

• פתרון בעיות חישוביות

  תוצאות המבחנים ברוסית מעידות על שיפור ניכר ביכולת להבין ולפתור תרגילי חשבון.

איפה זה נופל

למרות ההתאמות, המודל מפסיד לקוון המקורי בכמה מבחנים באנגלית, בעיקר במשימות חשיבה מורכבות של מתמטיקה ומדעים. בנוסף, למרות ההשקעה בלמידת חיזוק לתחום הפעלת פונקציות, במבחן הייעודי בתחום זה הוא קיבל ציונים נמוכים במעט מהמקור, הן באנגלית והן ברוסית. אם אתם בונים מערכת שמסתמכת בעיקר על קריאות מדויקות לכלים חיצוניים או על לוגיקה באנגלית, חובה לבדוק אותו מראש מול חלופות.

איך מריצים

כדי להעלות את הקבצים במשקל מלא נדרש כרטיס מסך מודרני עם עשרים וארבעה גיגה זיכרון לפחות, כמו כרטיס שרת ייעודי או חומרה גרפית חזקה למפתחים. הקבצים שוקלים קצת פחות מחמישה עשר גיגה, כך שאין שום סיכוי להריץ אותו בלי תמיכה בחומרה מתאימה אלא אם משתמשים בכימות.

הטעינה נעשית ישירות דרך ספריית הטרנספורמרס הרגילה בפייתון בעזרת שורות בסיסיות לטעינת המודל והטוקנייזר. אם אין לכם שרת מקומי עם מאיץ גרפי מתאים, עדיף בהחלט לשכור מופע ענן לפי שעה או להתחבר לשירות שמארח מודלים פתוחים.

from transformers import pipeline

pipe = pipeline("text-generation", model="AvitoTech/avibe")
print(pipe("שלום"))

הקבצים

16 קבצים במאגר, 14.7 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00001-of-00004.safetensors5.0 GB
• model-00003-of-00004.safetensors4.9 GB
• model-00002-of-00004.safetensors4.9 GB
• model-00004-of-00004.safetensors953.5 MB
• tokenizer.json9.7 MB
• vocab.json3.0 MB
• merges.txt1.8 MB
• model.safetensors.index.json32.9 KB
• README.md7.4 KB
• tokenizer_config.json6.2 KB
• chat_template.jinja2.9 KB
• .gitattributes1.5 KB
• config.json821 B
• special_tokens_map.json753 B
• added_tokens.json413 B
• generation_config.json219 B

הרישיון

הרישיון הוא אפאצ'י שתיים, שזה המצב הנוח ביותר. אתם יכולים לקחת את המשקולות, להטמיע אותן במוצר מסחרי, לשנות את הקוד ולהריץ אצלכם בלי לדווח לאף אחד ובלי לשלם תמלוגים, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗