functiongemma-tuning-lab

מה זה

אתם מגדירים בממשק את מבנה הפונקציות בפורמט JSON, ומעלים קובץ CSV עם שלוש עמודות: בקשת המשתמש, שם הפונקציה, והארגומנטים בפורמט JSON. אם אין לכם קובץ מוכן, ברירת המחדל טוענת את הדאטהסט bebechien/SimpleToolCalling. בסיום מקבלים קבצי משקולות מוכנים להורדה אחרי fine-tuning, לצד גרפים שמשווים את ביצועי המודל לפני האימון ואחריו.

מאחורי הקלעים רץ תהליך אימון על בסיס google/functiongemma-270m-it כברירת מחדל, וקיימת תמיכה גם ב־google/gemma-2b-it. הרעיון הוא ללמד מודל זעיר להחזיר קריאות תקינות לכלים שלכם במקום להשתמש במודל ענק ויקר.

מתאים ל

• חיבור בוט לממשקי API

  אימון המודל לזהות מתי לקרוא לפונקציות תוכנה פנימיות ולהוציא את הפרמטרים הנכונים.

• שליטה ברכיבי בית חכם

  המרת פקודות בשפה טבעית להפעלת מתגים, מזגנים או תאורה לפי סכמה מוגדרת מראש.

• תחקור מאגרי מידע מקומיים

  יצירת שכבת גישור שממירה שאלות משתמש לשאילתות מובנות מול מסדי נתונים.

איפה זה נופל

ההרצה על מעבד בסיסי הופכת אימונים של ממש לכבדים ומעיקים, ובדפדפן זה מרגיש יותר כמו הדגמת יכולת מאשר תחנת עבודה. בנוסף, הדאטה חייב להיות במבנה נוקשה ומדויק של שלוש עמודות, כך שכל סטייה קטנה ב־JSON של הארגומנטים תכשיל את התהליך. המודל עצמו זעיר, 270 מיליון פרמטרים, ולכן הוא לא יתמודד טוב עם לוגיקה מורכבת או שאלות רחבות מחוץ לקריאת הכלים שהוגדרה לו.

איך משתמשים

נכנסים לממשק ה־Gradio, מכניסים את ה־JSON של הסכמה או מעלים את ה־CSV, קובעים פרמטרים כמו epochs וקצב למידה, ולוחצים על כפתור האימון. משם צופים בלוגים ובגרף ה־loss שמתעדכנים בזמן אמת. המרחב הציבורי מוגדר על חומרת cpu-basic, מה שאומר שאימון שם יהיה איטי מאוד עד לא מעשי. עדיף לשכפל את הקוד ולהריץ מקומית עם python app.py על מכונה משלכם.

הרישיון

הפרויקט מופץ ברישיון apache-2.0, שמאפשר שימוש חופשי וגם מסחרי בקוד ובמשקולות שתייצאו. קבצי ה־CSV שאתם מעלים למרחב הציבורי עשויים להיות חשופים אם לא מריצים את הכלי מקומית.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗