GPT
הוספת כלי
D

deepseek-coder-33b-instruct — הדגמה

קוד פתוח

deepseek-aiother2023-11-03

  • gradio

ממשק שיחה פשוט לבדיקת מודל הקוד של דיפסיק עם 33 מיליארד פרמטרים. כותבים לו בקשות תכנות ומקבלים קטעי קוד והסברים טכניים ישירות בדפדפן.

  • 33Bפרמטרים
  • 16,384טוקנים בהקשר
  • 124 GBמשקל הקבצים
  • —הורדות בחודש

מה זה

אתם מקלידים שאלה, בקשת פיתוח או קטע קוד לתוך ממשק צ'אט, והוא מחזיר תשובות טקסט עם קוד משוכתב או הסברים. הממשק מבוסס על ChatInterface של גרדיו, וכולל שדה ייעודי לכתיבת System prompt של שש שורות, שמאפשר להגדיר למודל תפקיד מראש. מתחתיו יש סליידרים לכיוונון פרמטרים של ייצור הטקסט, כפתור עצירה מפורש בזמן הפליטה, ורשימת דוגמאות מוכנות שאפשר להריץ בלחיצה כדי לראות איך הוא עונה על בעיות קוד נפוצות.

מאחורי הקלעים נטען המודל deepseek-coder-33b-instruct של deepseek-ai בדיוק של bfloat16 דרך ספריית transformers. המערכת משתמשת בהזרמה בזמן אמת של התווים, ומקצצת אוטומטית הודעות היסטוריה ארוכות כדי לא לחרוג ממגבלת הטוקנים של השיחה, תוך הקפצת אזהרה מתאימה על המסך.

מתאים ל

  • הסבר ובדיקת קוד

    מדביקים פונקציה ומבקשים ניתוח שלה או בדיקה לאיתור שגיאות תחביר והיגיון.

  • יצירת קטעי סקריפט

    מגדירים דרישה מילולית ומקבלים קוד התחלתי בשפות נתמכות ישירות בצ'אט.

  • הנחיית התנהגות מותאמת

    מגדירים תפקיד מפורט בתיבת ה־System prompt כדי לקבל סגנון כתיבה מסוים.

איפה זה נופל

הבעיה המרכזית כאן היא החומרה המוגדרת בפועל. מעבד בסיסי פשוט לא בנוי להריץ מודל במשקל כזה, והחוויה האיטית עשויה לתת רושם מטעה לגבי ביצועי המודל האמיתיים כשהוא רץ על חומרה ייעודית. בנוסף, קוד הממשק חותך קלט שחורג ממגבלת הטוקנים המרבית בלי לבקש אישור, כך שאי אפשר להדביק פנימה קבצי פרויקט שלמים או לוגים ארוכים בלי שחלק מהמידע יימחק.

שאלות
נפוצות

האם השימוש באפליקציה כרוך בתשלום?

הגישה פתוחה בדפדפן ואין דרישה להכניס אמצעי תשלום כדי לשוחח עם המודל. עם זאת, אין התחייבות לזמינות קבועה של השרתים החינמיים. לפעמים הדף עשוי להיות תפוס או לקרוס תחת עומס.

מה קורה לטקסט ולקוד שאני מקליד?

כל תוכן שאתם כותבים נשלח לעיבוד בשרת שמריץ את הדף. מכיוון שמדובר בהדגמה ציבורית ברשת, לא כדאי לחשוף דרכה סיסמאות, מפתחות גישה או קוד פנימי רגיש. המידע אינו מוגן במסגרת עסקית פרטית.

כמה זמן לוקח לקבל תשובה?

השרת פועל כרגע על מעבד רגיל ללא כרטיס גרפי ייעודי, ולכן קצב ייצור הטקסט איטי מאוד. מענה על שאלה מורכבת או כתיבת פונקציה ארוכה יכולים לקחת כמה דקות טובות. אם תרצו תגובה מהירה יותר, תצטרכו להמתין בסבלנות או להשתמש בחומרה אחרת.

האם אפשר להריץ את המודל באופן עצמאי?

הקוד מבוסס על משקלי deepseek-coder-33b-instruct שזמינים בספריית transformers הסטנדרטית. אפשר להוריד את המשקלים ולהריץ אותם על מחשב חזק עם כרטיס מסך מתאים. ההדגמה הנוכחית היא רק מעטפת גרפית שנבנתה כדי להציג אותו בדפדפן.

איך מריצים

נכנסים לדף, מקלידים הודעה בתיבה ולוחצים אנטר או שולחים. לפי הנתונים, סביבת ההרצה הנוכחית של הדף מוגדרת על מעבד בסיסי בלבד, למרות שהקוד ממליץ על מאיץ גרפי a10g-small. הרצה של מודל ענק עם שלושים ושלושה מיליארד פרמטרים על מעבד רגיל גורמת לזמני תגובה איטיים במיוחד, ולכן כל תשובה עלולה לקחת דקות ארוכות. אין צורך בחשבון או בהתחברות כדי להתחיל שיחה.

pip install -U huggingface_hub
hf download deepseek-ai/deepseek-coder-33b-instruct

הקבצים

23 קבצים במאגר, 124 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון של הממשק לא דווח בדף המקור. ללא רישיון מוגדר, תנאי השימוש המסחריים וההיתר להשתמש בקוד שנוצר אינם ברורים, וכל טקסט שאתם מזינים עובר דרך שרתי ההדגמה הציבוריים.

הרישיון המלא בעמוד המודל ↗