reader-lm-1.5b

מה זה

מדובר במודל שמיועד למשימה אחת בלבד, לקחת מסמך HTML גולמי ולפלוט מרקडाउन מסודר. הוא מבוסס על הארכיטקטורה של Qwen2 וכולל 1.5 מיליארד פרמטרים, מה שאומר שהוא קטן ומהיר בהרבה ממודלי שפה כלליים. במקום להגדיר פקודות מורכבות, פשוט זורקים עליו את ה־HTML כקלט והוא מחלץ את התוכן החשוב ומנקה תגיות מיותרות.

היתרון המרכזי כאן מול מודלים קטנים אחרים הוא חלון הקשר של 256,000 טוקנים. זה נפח עצום שמאפשר לדחוף פנימה עמודי רשת ארוכים, קובצי תיעוד מורכבים או אתרים כבדים במכה אחת בלי לחתוך אותם קודם.

מתאים ל

• הכנת נתונים ל־RAG

  ניקוי דפי אינטרנט והפיכתם למרקडाउन נקי לפני חלוקה למקטעים והטמעה וקטורית.

• חילוץ תוכן מאתרים

  המרת כתבות, פוסטים ותיעוד טכני מטקסט עמוס תגיות לקובצי טקסט פשוטים.

• בניית מאגרי אימון

  עיבוד כמויות גדולות של HTML גולמי ליצירת דאטה-סטים טקסטואליים עבור מחקר.

איפה זה נופל

הכרטיס לא מציג שום מדדי דיוק, ציוני בנצ'מרק או השוואה מספרית מול ספריות ניקוי מסורתיות, כך שחובת הבדיקה עליכם. בנוסף, כבר שוחררה גרסה חדשה יותר בשם ReaderLM-v2, מה שהופך את המודל הזה לגרסה קודמת. צריך גם לשים לב שההתקנה המקומית דורשת גרסה ישנה וספציפית של transformers, עד 4.43.4, מה שעלול ליצור התנגשויות תלויות בסביבות עבודה קיימות.

אותה משפחה

reader-lm יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

המשקל הכולל של הקבצים עומד על 2.9 גיגה בייט בדיוק של bfloat16, כך שאפשר להריץ אותו בקלות על כרטיס מסך בסיסי כמו T4 של גוגל קולאב, או אפילו מקומית על מעבד רגיל דרך ספריית transformers אם אין לחץ של זמן. כל מה שצריך בקוד זה להוריד את המודל, לעטוף את ה־HTML בתבנית צ'אט רגילה ולהריץ הפקה ללא דגימה עם עונש חזרתיות קל של 1.08.

אם אתם צריכים לחסוך עוד זיכרון, קיימת בסדרה גרסה קטנה יותר של חצי מיליארד פרמטרים. מי שלא רוצה לתחזק שרתים עצמאיים יכול לפרוס מופע מנוהל ישירות מול AWS SageMaker או אז'ור לפי תבניות מוכנות.

from transformers import pipeline

pipe = pipeline("text-generation", model="jinaai/reader-lm-1.5b")
print(pipe("שלום"))

הקבצים

11 קבצים במאגר, 2.9 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors3.1 GB
• tokenizer.json7.0 MB
• vocab.json2.8 MB
• merges.txt1.7 MB
• README.md3.5 KB
• .gitattributes1.6 KB
• tokenizer_config.json1.3 KB
• config.json705 B
• special_tokens_map.json367 B
• generation_config.json335 B
• added_tokens.json80 B

הרישיון

הקוד והמשקלים שוחררו תחת רישיון cc-by-nc-4.0. המשמעות פשוטה וישירה, אסור להשתמש במודל הזה לכל מטרה מסחרית. מותר לחקור, ללמוד ולהריץ ניסויים פנימיים, אך אי אפשר לשלב אותו במוצר שמייצר הכנסה או בצינור נתונים של חברה עסקית בלי לרכוש זכויות מתאימות.

• שינוי הקוד
• חובת ייחוס
• שימוש מסחרי: לא

הרישיון המלא בעמוד המודל ↗