sqlcoder-7b-2

מה זה

מדובר בהתאמה ממוקדת של קוד לאמה בגודל שבעה מיליארד פרמטרים, שמטרתה היחידה היא לתרגם טקסט חופשי לשאילתות נתונים על בסיס סכמה קיימת. הוא לא מיועד לשיחה כללית ולא יכתוב לכם סקריפטים בפייתון, אלא פשוט מקבל את מבנה הטבלאות ואת השאלה של המשתמש ופולט פקודת מסד נתונים.

בבדיקות של החברה מול בנצ'מרק ייעודי לפוסטגרס, הוא מציג דיוק מרשים בקטגוריות מורכבות יחסית לגודלו. טיפול בתאריכים הגיע ל־96 אחוז הצלחה, חישובי יחסים עומדים על 91.4 אחוז וחיבורי טבלאות על 94.3 אחוז, תוצאות שעוקפות בכרטיס המבחן אפילו מודלים סגורים גדולים בהרבה. החולשה היחסית שלו מופיעה בסינונים פשוטים של תנאי איפה, שם הוא נעצר על 77.1 אחוז בלבד.

מתאים ל

• ממשק אנליטיקס פנימי

  תרגום שאלות של אנשי מוצר ודאטה לשאילתות קריאה מול פוסטגרס ללא צורך בכתיבת קוד ידנית.

• עבודה ברשת סגורה

  שמירה על סכמת הנתונים ומבנה הטבלאות בתוך שרתים מקומיים בלי להוציא מידע לחברות חיצוניות.

• יצירת דוחות מהירה

  חישוב יחסים וחיבורי טבלאות מורכבים ישירות מתוך שאלות מילוליות בזכות דיוק גבוה בחלקים אלה.

איפה זה נופל

הוא לא מיועד לניהול בסיסי נתונים, ואין לו שום מנגנון שחוסם פקודות מחיקה או שינוי זדוניות. המפתחים מבהירים במפורש שחובה לחבר אותו אך ורק למשתמש עם הרשאות קריאה בלבד, כדי ששאילתה לא נכונה או הזרקת פקודות לא תמחק טבלאות. בנוסף, בדיקות הביצועים שלו נעשו על פוסטגרס, כך שאם אתם עובדים מול מנועים אחרים יש סיכוי גבוה לנפילות בתחביר.

איך מריצים

כדי להריץ אותו מקומית בפורמט המקורי צריך כרטיס מסך עם לפחות 16 עד 24 גיגה זיכרון גרפי, בהתאם לאורך הסכמה שנשלחת בהקשר. אם יש לכם חומרה כזו או מכונה מותאמת בענן, transformers בסביבת פייתון תספיק, כאשר מפתחי המודל דורשים להשתמש בחיפוש אלומות עם ארבע אלומות וללא דגימה אקראית.

אם אין לכם כרטיס גרפי מתאים בעבודה השוטפת, תחזוקת שרת ייעודי רק בשבילו תעלה יותר מקריאות נקודתיות למוצר ענן מוכן. שווה להחזיק אותו מקומית רק אם אתם חייבים שהסכמה והנתונים לא ייצאו מהרשת הפנימית של הארגון.

ollama run hf.co/defog/sqlcoder-7b-2:Q5_K_M

איזו גרסה

אותו מודל בכמה רמות דחיסה. ככל שהמספר נמוך יותר הקובץ קטן יותר ורץ על פחות זיכרון, והתשובות נהיות פחות מדויקות. רוב האנשים רוצים את הגדולה ביותר שנכנסת להם בזיכרון.

הקבצים

18 קבצים במאגר, 17.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model-00002-of-00003.safetensors4.9 GB
• model-00001-of-00003.safetensors4.9 GB
• sqlcoder-7b-q5_k_m.gguf4.8 GB
• model-00003-of-00003.safetensors3.6 GB
• labels.npy3.7 MB
• predictions.npy3.7 MB
• tokenizer.json1.8 MB
• tokenizer.model500.1 KB
• label_mask.npy458.2 KB
• labeled_matches.npy458.2 KB
• model.safetensors.index.json23.9 KB
• training_args.bin4.9 KB
• README.md3.5 KB
• tokenizer_config.json1.8 KB
• .gitattributes1.6 KB
• config.json691 B
• special_tokens_map.json515 B
• generation_config.json111 B

הרישיון

הרישיון הוא מסחרי עם שיתוף זהה. מותר להשתמש בו באופן חופשי, כולל במוצרים עסקיים, אבל אם אתם משנים את המודל או מאמנים אותו מחדש, אתם מחויבים להפיץ את הגרסה המשופרת תחת אותו הרישיון בדיוק ובאופן פתוח.

• שימוש מסחרי
• שינוי הקוד
• חובת שיתוף באותו רישיון

הרישיון המלא בעמוד המודל ↗