karpathy-llm-council

מה זה

אתם מקלידים שאלה בשדה טקסט פשוט, והמערכת מריצה תהליך בשלושה שלבים. בשלב הראשון היא אוספת תשובות מהמודלים DeepSeek-V3.2-Exp, gpt-oss-120b ו־Qwen3-235B-A22B-Instruct-2507. בשלב השני המודלים מדרגים את התשובות ביניהם, ובשלב השלישי מודל בתפקיד יושב ראש מרכיב סיכום מנומק שמוצג כפלט בפורמט מרקדאון.

הרעיון מבוסס על שילוב מועצה של מספר מודלים כדי לאזן הטיות של מודל יחיד. במקום לקבל תשובה אחת בלבד, התוצאה הסופית שמתקבלת אמורה לשקף את הסינתזה של שלושת המודלים הגדולים האלה יחד, כפי שהוגדרו בקוד האפליקציה.

מתאים ל

• השוואת תשובות אוטומטית

  קבלת מענה שמסכם זוויות שונות משלושה מודלים מתקדמים בו זמנית.

• בדיקת שאלות מורכבות

  סינון הטיות וקבלת פלט מסונתז ומדורג לשאלות עמוקות.

• ניסוי במבנה מועצת מודלים

  בחינת תהליך איסוף, דירוג וסינתזה של מודלים מרובים בפועל.

איפה זה נופל

ההדגמה מציגה רק את התוצר המשולב הסופי שנוצר בשלב הסינתזה, ולא מאפשרת לראות את מלוא התשובות הגולמיות שכל מודל החזיר בשלב הראשון או את שיטת הדירוג המדויקת שבוצעה בשלב השני. בנוסף, אם שירות ה־API של אחד המודלים מגיב לאט או נתקל בשגיאה, כל התהליך עלול להתעכב או להיעצר.

איך משתמשים

נכנסים לממשק, כותבים שאלה בתיבה בת שתי שורות ולוחצים על שליחה. האפליקציה מוגדרת על שרת cpu-basic בסיסי, מה שאומר שהיא לא מריצה את המודלים הענקיים האלה מקומית על המעבד אלא פונה אליהם כנראה דרך ממשקי API חיצוניים. התהליך כולל שלושה שלבים עוקבים של איסוף, דירוג וסינתזה, לכן צריך לקחת בחשבון שזמן ההמתנה עשוי להיות ארוך יותר משאילתה רגילה למודל בודד.

הרישיון

היוצר לא הגדיר רישיון שימוש בקוד או במרחב. ללא רישיון רשמי מוגדר, אין היתר ברור לשימוש חוזר בקוד או לשימוש מסחרי בתוצרים, וכדאי לקחת בחשבון שכל שאלה שנשלחת עוברת דרך השרת והמודלים החיצוניים.

הרישיון המלא ב־Hugging Face ↗