GPT
הוספת כלי
L

llama-3-sqlcoder-8b

קוד פתוח

defogcc-by-sa-4.02024-05-09

  • transformers
  • safetensors
  • llama
  • text-generation
  • code

הסבה ייעודית של מודל קוד פתוח לכתיבת שאילתות SQL. הוא נועד למי שרוצה ביצועים קרובים למודלי ענק בלי להוציא נתונים מהשרת.

  • 8Bפרמטרים
  • 8,192טוקנים בהקשר
  • 15.0 GBמשקל הקבצים
  • 775הורדות בחודש

מה זה

במקום עוד מודל שיחה כללי, לקחו כאן את לאמה 3 של מטא ואימנו אותו על משימה אחת בלבד, תרגום שאלות באנגלית לשאילתות בסיסי נתונים. ההתמקדות היא בשלושה מנועים עיקריים: פוסטגרס, סנואופלייק ורדשיפט. המטרה היא לקבל דיוק של מודלים מסחריים כבדים בתוך מעטפת קטנה בהרבה.

היוצרים בחנו את התוצאות מול מסגרת בדיקה עצמאית שלהם שמריצה את השאילתות על פוסטגרס בפועל. המשמעות היא שההערכה בודקת אם השאילתה מחזירה את המידע הנכון ולא סתם נראית הגיונית תחבירית, שזה המבחן האמיתי כשמחברים מודל לבסיס נתונים חי.

מתאים ל

  • בוט לשליפת נתונים בארגון

    תרגום שאלות עסקיות לשאילתות על פוסטגרס או סנואופלייק ישירות מול בסיס הנתונים.

  • מערכת BI פרטית מקומית

    הרצה פנימית מאובטחת על שרת שלכם, בלי להדליף סכמות של טבלאות ל־API חיצוני.

  • עוזר כתיבה לצוותי אנליסטים

    ייצור מהיר של שלד שאילתות מורכבות ברדשיפט כדי לחסוך זמן עבודה ידני.

איפה זה נופל

ההתמחות הצרה שלו היא גם החיסרון. הוא נבנה עבור פוסטגרס, רדשיפט וסנואופלייק בלבד. אם אתם עובדים מול מנועים אחרים כמו אורקל או מיקרוסופט SQL סרבר, התחביר הייחודי עלול להישבר והוא לא יספק את הסחורה.

מעבר לזה, המודל מחייב מבנה פרומפט קשיח שכולל את הצהרות ה־DDL המלאות של הטבלאות. אם מבנה הטבלאות שלכם מורכב מדי לחלון ההקשר, או אם לא תזינו את הסכמה בדיוק בפורמט שהיוצרים הגדירו, רמת הדיוק תצנח במהירות.

שאלות
נפוצות

איזה פרומפט צריך לתת לו כדי לקבל שאילתה תקינה?

חייבים לספק לו את שאלת המשתמש יחד עם הצהרות ה־DDL של הטבלאות הרלוונטיות, בדיוק לפי התבנית שמופיעה בתיעוד. בלי מבנה הטבלאות המודל פשוט ינחש שמות של עמודות. בנוסף, חובה להגדיר טמפרטורה על אפס.

האם הוא מתאים לשימוש עם בסיסי נתונים אחרים כמו MySQL?

המודל אומן ונבדק ספציפית על פוסטגרס, רדשיפט וסנואופלייק. בשאילתות פשוטות מאוד הוא עשוי לייצר קוד שיעבוד גם באחרים, אבל הוא לא מכיר את הניואנסים והפונקציות הייחודיות של מנועים שלא הוגדרו עבורו מראש.

איך מריצים

המודל שוקל 15 גיגה בייט בדיוק המקורי שלו, כך שכרטיס מסך בודד עם 16 או 24 גיגה בייט זיכרון יריץ אותו בקלות בלי קוונטיזציה. הוא רץ ישירות דרך ספריית transformers המוכרת של פייתון, בלי תלות בתשתיות חריגות.

היוצרים ממליצים מפורשות לאפס את הטמפרטורה ולא להשתמש בדגימה בכלל. בכתיבת קוד צריך תשובה דטרמיניסטית ומדויקת, בלי ניסיונות יצירתיים. אם אין לכם שרת עם כרטיס מסך ייעודי פעיל, עדיף להשתמש ב־API מנוהל מאשר להחזיק תשתית כזו רק בשביל שאילתות פה ושם.

from transformers import pipeline

pipe = pipeline("text-generation", model="defog/llama-3-sqlcoder-8b")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 15.0 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

הרישיון

הרישיון הוא CC-BY-SA 4.0, רישיון שיתוף זהה. מותר להשתמש בו מסחרית ולשנות אותו, אבל חובה לתת קרדיט ליוצרים. הבעיה המרכזית היא תנאי השיתוף הזהה: אם תשנו את המודל ותפיצו אותו, תצטרכו לשחרר את הגרסה המשודרגת תחת אותו הרישיון בדיוק.

  • שימוש מסחרי
  • שינוי הקוד
  • חובת שיתוף באותו רישיון

הרישיון המלא בעמוד המודל ↗