GPT
הוספת כלי
S

starchat-alpha

קוד פתוח

HuggingFaceH4bigcode-openrail-m2023-05-09

  • transformers
  • pytorch
  • tensorboard
  • safetensors
  • gpt_bigcode

עוזר קוד פתוח לשיחה על בסיס סטארקודר, שמנסה לתת מענה לפיתוח תוכנה. הוא מעניין בעיקר כבסיס מחקרי לבדיקת היכולות של מודלי שפה פתוחים בלי תלות בפתרונות סגורים.

  • 16Bפרמטרים
  • 8,192טוקנים בהקשר
  • 58.4 GBמשקל הקבצים
  • 460הורדות בחודש

מה זה

מדובר במודל שיחה שנוצר מאימון של סטארקודר על מאגרי ההוראות אופן אסיסטנט ודולי של דטבריקס. המטרה שלו היא לשמש עוזר תכנות שיודע לענות לשאלות, להסביר קוד ולכתוב פתרונות בשפה טבעית באנגלית. המודל מתמקד בקוד אבל מבין שיחה חופשית בזכות הנתונים הנוספים שנכנסו בתהליך הכוונון העדין.

בגודל של שישה עשר מיליארד פרמטרים וחלון של מעל שמונת אלפים טוקנים, הוא נותן מרחב עבודה סביר לקטעי קוד ארוכים יחסית. עם זאת, היוצרים מדגישים שמדובר בגרסת אלפא ראשונית בלבד, ויש לה כבר גרסת בטא מעודכנת יותר. אין כאן מנגנוני יישור מתקדמים, כך שהפלט שלו גולמי מאוד ביחס למקובל כיום בתחום.

מתאים ל

  • מחקר על עוזרי קוד פתוחים

    מאפשר לבחון איך מודל בסיס של קוד מגיב לכוונון שיחה ללא יישור אנושי.

  • ניתוח חולשות אבטחה בקוד

    מתאים לבדיקה אקדמית של שגיאות נפוצות שיוצרות רשתות נוירונים בתכנות.

  • התנסות מקומית בסביבת פיתוח

    שימושי למי שרוצה לבדוק אינטראקציית שאלות ותשובות על קוד במחשב מבודד.

איפה זה נופל

היוצרים מזהירים במפורש שהמודל לא עבר תהליכי יישור מול העדפות אנושיות כמו למידה מחיזוקים, ולכן הוא מייצר תוכן בעייתי או מוטה בקלות. בתכנות עצמו הוא עלול להפיק קוד שנראה נכון תחבירית אבל לא מתקמפל, לא עובד, או מכיל חולשות אבטחה חמורות. בנוסף יש לו נטייה להמציא כתובות אינטרנט מזויפות, והוא מוגבל לשפה האנגלית בלבד.

שאלות
נפוצות

האם כדאי לבחור בגרסה הזו לפרויקט חדש?

לא, עדיף לבדוק את גרסת הבטא שהיוצרים עצמם מפנים אליה בכרטיס המודל. גרסת האלפא הוגדרה למחקר בלבד והיא הראשונה בסדרה.

האם המודל תומך בעברית?

הכרטיס מציין אנגלית בלבד כשפת המודל. לא כדאי להסתמך עליו לפיתוח ממשקים בעברית או להסברים בשפה זו.

איך מריצים

כדי להריץ אותו מקומית צריך ציוד רציני. הקבצים עצמם שוקלים מעל חמישים ושמונה גיגהבייט, ובדיוק המקורי נדרש כרטיס מסך חזק עם זיכרון וידאו גדול מאוד, או פיצול על כמה כרטיסים דרך ספריית טרנספורמרס.

אם אין לכם שרת ייעודי זמין, עדיף להשתמש בדמו הרשמי שלהם או לפנות לשירותי ענן במקום לקנות חומרה יקרה. הרצה עצמית כאן משתלמת רק למי שחוקר את המשקלים ישירות.

from transformers import pipeline

pipe = pipeline("text-generation", model="HuggingFaceH4/starchat-alpha")
print(pipe("שלום"))

הקבצים

32 קבצים במאגר, 58.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא ביגקוד אופן רייל עם הגבלות שימוש ספציפיות. היוצרים הגדירו את גרסת האלפא למטרות מחקר וחינוך בלבד, כך שלא מומלץ לשלב אותו כרגע במוצר מסחרי פעיל.

  • שימוש מסחרי
  • שינוי הקוד
  • מגבלות שימוש ברישיון

הרישיון המלא בעמוד המודל ↗