grug-think

מה זה

המאגר מכיל 100,891 דוגמאות של שיחות סוכן מלאות במבנה תואם OpenAI עם תגי חשיבה בסגנון Hermes. כל רשומה כוללת הודעות מערכת, משתמש, עוזר ותוצאות מהכלים. בתוך הודעת העוזר מופיע תג חשיבה קצרצר באנגלית בסיסית, אחריו המענה למשתמש בשפה רגילה, ולבסוף קריאת הכלי בפורמט JSON תקין. החשיבה עצמה עומדת על חציון של 11 מילים בלבד לתור, ללא מילות קישור ריקות.

הנתונים מגיעים משילוב של מאגרי קוד וסוכנים קיימים. כארבעים וחמישה אחוז מהחומר מתמקד בעבודת פיתוח אמיתית של סוכני תוכנה מתוך SWE-smith ו־nebius SWE-agent, שכוללת תיקון באגים, קריאת קבצים והרצת פקודות bash. שאר המאגר מבוסס על glaive-function-calling-v2, Hermes ו־ToolACE, ומכסה שיחות רב-שלביות של קריאות ל־API, לצד דוגמאות שבהן הסוכן לומד במכוון לא להפעיל אף כלי.

בתהליך העיבוד, מודל DeepSeek-V4-Pro יצר מחדש רק את תוכן החשיבה הפנימי, בזמן שהמענה החיצוני למשתמש וקריאות הכלים נשארו ללא שינוי מהמקור. הסינון פסל דוגמאות ללא חשיבה, תהליכים ארוכים מדי או ניסוחים מתפתלים, ובוצע ניקוי כפילויות מלא לפי מזהים.

מתאים ל

• אימון סוכני קוד חסכוניים

  צמצום משמעותי בעלויות הריצה של סוכנים שמתקנים באגים ומריצים פקודות סביבה.

• כוונון קריאות ל־API

  לימוד מודלים להפעיל פונקציות מורכבות במבנה מדויק בלי לבזבז זמן חשיבה מיותר.

• אימון מודל לעצירת כלים

  הוראת הסוכן מתי לא לקרוא לכלי כשבקשת המשתמש אינה דורשת התערבות טכנית.

איפה זה נופל

המאגר כולו באנגלית בלבד, ואין בו נתונים בשפות אחרות. מגבלה מרכזית נובעת מכך שמקטעי החשיבה הם סינתטיים לחלוטין ונכתבו בדיעבד על ידי מודל שראה את הפעולה הנכונה מראש, ולא בזמן אמת תוך כדי פתרון הבעיה. חלק מהמסלולים של סוכני הקוד מכילים ניסיונות כושלים של סוכנים חלשים יותר לפני שהגיעו לפתרון, כך שהמודל עלול ללמוד גם דפוסי פעולה מהוססים לפני התאוששות. לא הייתי מכניס את זה ישר למערכת שדורשת נימוקים מורכבים לבני אדם.

איך טוענים

הנתונים מחולקים לקובצי JSONL, ביניהם קובץ אימון ראשי, קובץ בדיקה heldout וקובץ למשימות למידת חיזוק, לצד סקריפטים להערכה ולהמרה. אין צורך לבקש אישור גישה במאגר, הכל פתוח להורדה ישירה. המבנה עוקב אחרי סכמת הודעות סטנדרטית עם רשימת tools, כך שכלים כמו Axolotl, Unsloth ו־LLaMA-Factory תומכים בו ישר מהקופסה בלי התאמות מיוחדות. שדות המפתח בכל רשומה הם messages שמכיל את תגי החשיבה, ו־tool_calls שמחזיק את הארגומנטים לקריאות הפונקציה.

from datasets import load_dataset

ds = load_dataset("ProCreations/grug-think")

הרישיון

המאגר עצמו מפורסם תחת רישיון apache-2.0, שמאפשר שימוש מסחרי, שינוי והפצה בלי לחייב אתכם לפתוח את הקוד שלכם או את המודל המאומן. יחד עם זאת, הנתונים הם תוצר של שכתוב מודל על גבי מאגרי מקור שונים כמו glaive ו־SWE-smith, לצד שימוש בפלטים של DeepSeek-V4-Pro. מי שבונה מודל מסחרי חייב לבדוק את תנאי הרישיונות של כל מאגר מקור בשרשרת.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא ב־Hugging Face ↗