embeddings-fine-tuning
קוד פתוחlightonaiרישיון לא דווח2025-10-28
המאגר מרכז שבעה מקורות טקסט מוכרים לאימון מודלי אחזור, עם 2048 דוגמאות שליליות קשות שנכרו מראש לכל שאילתה. הוא חוסך את שלב הכרייה הכבד ומאפשר לבחון סינונים שונים לבד.
- 1,756הורדות בחודש
- 24לייקים
מה זה
הנתונים מגיעים משבעה מאגרי שאילתות ידועים: FiQa, NaturalQuestions, HotpotQA, MSMARCO, FEVER, SquadV2 ו־TriviaQA. בסך הכל יש כאן 1.88 מיליון שאילתות מול 50.64 מיליון מסמכים. במקום לחתוך את השליליים לפי סף קבוע מראש, השאירו את כל 2048 השליליים הקרובים ביותר שנמצאו עבור כל שאילתה יחד עם ציוני הדמיון שלהם, כך שאפשר לסנן לבד לפי הצורך.
המבנה מחולק לשבעה חלקים לפי מקור המידע. כל חלק בנוי משלושה תתי-מאגרים: טבלת מסמכים עם מזהה וטקסט גולמי, טבלת שאילתות, וטבלת ציונים שמחברת ביניהן. בטבלת הציונים, האיבר הראשון הוא המסמך החיובי ואחריו מגיעים מזהי השליליים והציונים שחושבו באמצעות המודל gte-modernbert-base.
מתאים ל
- אימון שלב שני למודלי אחזור
אימון Fine-Tuning למודלי Bi-Encoder ו־Late Interaction בעזרת דוגמאות שליליות קשות ומדורגות שכבר נכרו מראש.
- ניסויי סינון דוגמאות שליליות
בדיקת ספי דמיון שונים בגישת nv-retrieve לניפוי שליליים שגויים, בלי להריץ כרייה וחישובי מרחק יקרים מחדש.
- זיקוק ידע למודלי חיפוש
שימוש בציוני הדמיון הרציפים שחושבו מראש כמטרת אימון רכה עבור מודלי אחזור קטנים ומהירים יותר.
איפה זה נופל
כל שבעת המקורות באנגלית, כך שאין כאן מידע בעברית או תמיכה בריבוי שפות. הנתונים מבוססים על דאטהסטים ותיקים בעולם ה־NLP כמו MSMARCO ו־FEVER, ללא עדכון למידע עכשווי. בנוסף, כל הציונים והדוגמאות השליליות נשענים על מודל בודד, gte-modernbert-base, מה שמכניס את ההטיות והעיוורונות המובנים שלו ישירות לתוך הנתונים.
שאלות
נפוצות
האם המאגר כולל טקסטים בעברית?
לא, כל שבעת המקורות במאגר הם באנגלית בלבד. אם המטרה היא לאמן מודל חיפוש לטקסטים בעברית, המאגר הזה לא יספק דוגמאות רלוונטיות. אפשר לכל היותר לבחון עליו ארכיטקטורות ומנגנוני סינון באנגלית.
האם מותר להשתמש במאגר למוצר מסחרי?
אין לכך תשובה פשוטה כרגע, כי בעמוד לא פורסם רישיון כלל. מעבר להיעדר הרישיון כאן, הנתונים נאספו ממאגרים כמו MSMARCO שחלקם מוגבלים במקור לשימוש מחקרי בלבד. שימוש במוצר מסחרי עלול להוות סיכון משפטי.
במה המאגר הזה שונה מגרסאות רגילות של MSMARCO או HotpotQA?
ההבדל העיקרי הוא תהליך הכרייה הכבד שכבר בוצע ונשמר במלואו. במקום לקבל רק זוגות של שאילתה ותשובה, מקבלים כאן לכל שאילתה רשימה של 2048 מסמכים קרובים עם ציוני דמיון מדויקים, מה שחוסך ימי חישוב ב־GPU.
איך מומלץ לסנן את הדוגמאות השליליות מתוכו?
כרטיס המאגר ממליץ לעבוד לפי שיטת nv-retrieve. בשיטה זו מוחקים מתוך 2048 השליליים את כל המסמכים שהציון שלהם גבוה מאחוז מסוים מציון המסמך החיובי, כדי למנוע מצב שבו מענישים את המודל על תשובה נכונה.
איך טוענים
טוענים את הנתונים דרך Hugging Face מתוך 187 קובצי Parquet, ללא צורך בהרשאת גישה מיוחדת. בגלל עשרות מיליוני המסמכים ורשימות ארוכות של 2048 מזהים וציונים בכל שורת ניקוד, מומלץ למפות רק את החלקים שצריכים ולא להוריד את כל המאגר בבת אחת. כדי לעבוד איתו בספריות כמו sentence-transformers או PyLate, צריך לקשר בין השאילתה למסמכים לפי המזהים ולסנן את השליליים הרצויים.
from datasets import load_dataset
ds = load_dataset("lightonai/embeddings-fine-tuning")הרישיון
היוצרים לא דיווחו על רישיון בעמוד המאגר. במצב כזה אין הרשאה מפורשת לשימוש מסחרי, ייחוס או הפצה מחדש. בנוסף, שבעת המקורות המקוריים כמו MSMARCO ו־TriviaQA מחזיקים בתנאי שימוש שונים משלהם, ולכן אימון מודל על המאגר הזה לצרכים מסחריים מייצר חשיפה משפטית.