GPT
הוספת כלי
T

Trendyol-LLM-7b-chat-v0.1

קוד פתוח

Trendyolapache-2.02024-01-30

  • transformers
  • safetensors
  • llama
  • text-generation
  • conversational

גרסה מותאמת שיחה של מודל שבעה מיליארד פרמטרים שמתמקדת בטורקית ובאנגלית. הוא פונה למי שצריך צ'אט מקומי בשפות האלה על בסיס ארכיטקטורת לאמה.

  • 6.8Bפרמטרים
  • 4,096טוקנים בהקשר
  • 25.5 GBמשקל הקבצים
  • 152הורדות בחודש

מה זה

מדובר בהתאמה של לאמה 2 בגודל שבעה מיליארד פרמטרים, שעברה אימון הוראות באמצעות לורה על 180 אלף דוגמאות שיחה. המטרה המרכזית שלו היא לספק יכולת שיחה ומענה לטקסט בטורקית לצד אנגלית סטנדרטית, תחום שבו מודלים כלליים בגודל הזה מתקשים לעיתים קרובות בגלל מחסור בנתוני אימון מתאימים.

המודל מיועד לקבל טקסט ולהחזיר טקסט בלבד, עם חלון הקשר של 4,096 טוקנים. אין כאן מדידות ביצועים מספריות או מבחני השוואה רשמיים בכרטיס, כך שאי אפשר לדעת מראש איך הוא מתמודד מול מודלים פתוחים אחרים באותו סדר גודל בלי לבדוק אותו ישירות על המשימות שלכם.

מתאים ל

  • בוט שירות לקוחות בטורקית

    הוא אומן על הוראות שיחה בטורקית ומתאים למענה ראשוני לשאלות נפוצות.

  • עוזר שיחה דו לשוני

    מתאים לתרחישים שדורשים דיאלוג רציף באנגלית או בטורקית בתוך מערכת סגורה.

  • בסיס להתאמה אישית פנימית

    מאפשר המשך אימון מהיר על נתונים ארגוניים בזכות שימוש במשקלי לורה פתוחים.

איפה זה נופל

היוצרים מבהירים שהמודל לא עבר בדיקות מקיפות בעולם האמיתי ועלול לייצר מידע שגוי, פוגעני או מוטה. הוא מוגבל לשפה רשמית בטורקית ובאנגלית, ומתקשה בעגה מקומית או בשפות אחרות כמו עברית. לפני שמשלבים אותו במוצר מול לקוחות חובה להוסיף סינון פלט ובקרה אנושית.

אותה משפחה

Trendyol-LLM יצא ב־4 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

Trendyol-LLM-7b-chat-v1.0392 Trendyol-LLM-7b-base-v0.1111 Trendyol-LLM-7B-chat-v4.1.074

שאלות
נפוצות

האם המודל תומך בעברית?

הוא אומן רק על טורקית ואנגלית סטנדרטית. אין לו תמיכה רשמית בעברית, ולכן הוא לא מתאים לעיבוד שפה מקומית.

האם אפשר להריץ אותו על מחשב נייד רגיל?

הקבצים שוקלים מעל 25 גיגה בייט בדיוק המקורי, כך שמחשב רגיל בלי כרטיס גרפי מתאים יתקשה מאוד להריץ אותו ללא המרה או קוונטיזציה.

איך מריצים

המשקלים מגיעים בפורמט של טרנספורמרס ותופסים כמעט 26 גיגה בייט בקבצי פלואוט 32. כדי לטעון ולהריץ אותו באופן מקומי במצב המקורי תצטרכו כרטיס מסך עם זיכרון משמעותי, או לחלופין לטעון אותו בחצי דיוק או לבצע קוונטיזציה כדי לחסוך מקום בזיכרון.

ההרצה מתבצעת בעזרת הצינורות המוכרים של האגינג פייס עם הגדרות שיחה וקנס על חזרתיות. אם אתם צריכים רק שאילתות בודדות ולא בונים שירות פנימי שרץ על שרת ייעודי, עדיף להשתמש במודל מרוחק דרך ממשק חיצוני במקום לתחזק שרת עם חומרה יקרה.

from transformers import pipeline

pipe = pipeline("text-generation", model="Trendyol/Trendyol-LLM-7b-chat-v0.1")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 25.5 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הפרויקט מופץ תחת רישיון אפאצ'י שתיים אפס. מדובר ברישיון קוד פתוח מתירני שמאפשר שימוש מסחרי, שינוי של הקוד והמשקלים והפצה מחדש כחלק ממוצר שלכם. הדרישה העיקרית היא לשמור על הודעת זכויות היוצרים והרישיון המקורי בקבצים הרלוונטיים, בלי לקחת אחריות על נזקים שייגרמו מהשימוש.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש
  • שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗