GPT
J

jsonformer

רץ בדפדפן

mishigmit2023-05-22

  • gradio

הדגמה שמכריחה מודל שפה לייצר פלט במבנה JSON תקין בדיוק לפי סכמה שתגדירו. היא מתאימה למפתחים שרוצים לבדוק חילוץ מידע מובנה בלי שגיאות תחביר.

  • הורדות בחודש
  • 86לייקים

מה זה

אתם מקלידים הנחיה בטקסט חופשי ומגדירים בצד מבנה של JSON Schema, כולל שדות וסוגי נתונים כמו מחרוזות, מספרים ומערכים. לחיצה על הכפתור מחזירה אובייקט JSON תקני שתואם בדיוק למבנה שביקשתם, כשהערכים בפנים ממולאים על בסיס הטקסט.

מאחורי הקלעים רץ המודל dolly-v2-3b של databricks יחד עם הספרייה Jsonformer. במקום לתת למודל לנחש את כל התחביר ולקוות שלא ישבור סוגריים, הקוד מייצר בעצמו את המבנה הקבוע ונותן למודל להשלים רק את הערכים עצמם. דוגמת ברירת המחדל בממשק מבקשת פרטים על מכונית אסטון מרטין כסופה משנת 1964, ומחזירה מבנה מסודר עם שדות היצרן, הדגם, השנה והצבעים.

מתאים ל

  • חילוץ ישויות מובנה

    המרת טקסט חופשי על מוצרים או אירועים למבנה נתונים קשיח שמתאים להזנה ישירה לבסיס נתונים.

  • בדיקת סכמות מורכבות

    בחינה מהירה של התנהגות הספרייה מול אובייקטים מקוננים ומערכים לפני שכותבים קוד בדיקות במערכת.

  • הערכת מודל dolly-v2-3b

    בדיקת היכולת של מודל פתוח קטן יחסית למלא ערכים נכונים בהקשרים ספציפיים תחת אילוצי פורמט.

איפה זה נופל

הבעיה המיידית היא שההדגמה במצב מושהה, כך שאי אפשר פשוט להיכנס ולהריץ אותה כרגע בלי לשכפל את המרחב או להעיר אותו. מעבר לזה, מודל של שלושה מיליארד פרמטרים כמו דולי עלול לטעות בקלות בעובדות או להחזיר ערכים לא מדויקים בתוך השדות, גם אם המבנה הטכני של ה־JSON נשאר תקין לחלוטין. הוא פותר את בעיית הפורמט, לא את שאלת הדיוק של המידע.

שאלות
נפוצות

האם אפשר להשתמש בהדגמה הזו עכשיו?

לא באופן מיידי, כי המרחב נמצא כרגע במצב מושהה. כדי להשתמש בה צריך להפעיל אותה מחדש בחשבון שלכם או להוריד את הקוד ולהריץ אותו במחשב.

במה השיטה הזו שונה מפנייה רגילה למודל?

בפנייה רגילה המודל עלול לפספס פסיק או סוגר ולשבור את ה־JSON. כאן הקוד מייצר את התחביר בעצמו ומפעיל את המודל רק על מילוי הערכים, כך שהתוצאה תמיד תקינה תחבירית.

האם אפשר להריץ את זה מקומית?

כן, הקוד מבוסס על ספריות פתוחות ורישיון MIT. צריך להתקין את transformers ואת jsonformer, ולהוריד את המודל databricks/dolly-v2-3b כדי להריץ את אותו הדבר במחשב.

איך משתמשים

בממשק יש שני שדות קלט מרכזיים, אחד לפרומפט ואחד לקוד הסכמה, וכפתור הפעלה שמציג את התוצאה בצד השני. ההדגמה הוגדרה לרוץ על חומרת t4-medium, אבל כרגע היא במצב מושהה ולא פעילה ישירות בדפדפן בלי הפעלה מחדש. לא צריך הרשמה או חיבור מיוחד כדי לצפות בקוד, וכשהיא עובדת המעבד הגרפי הזה מריץ מודל של שלושה מיליארד פרמטרים תוך שניות בודדות.

הרישיון

הפרויקט מפורסם תחת רישיון MIT. הרישיון הזה מתיר שימוש חופשי בקוד, שינוי שלו ושילוב שלו בפרויקטים מסחריים ופרטיים ללא הגבלה מהותית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא ב־Hugging Face ↗