SmolDocling-256M-preview-mlx-bf16

מה זה

מדובר במודל ראייה ושפה קטן במיוחד, עם 256 מיליון פרמטרים, שהומר לפורמט MLX מבית אפל. הוא שייך לפרויקט docling ונועד לעבד קלט משולב של תמונה וטקסט, למשל כדי לחלץ תוכן ממסמכים, סריקות או צילומי מסך ישירות לטקסט מובנה. הבסיס שלו נשען על ארכיטקטורת SmolVLM, אבל עם אופטימיזציה שמכוונת לעבודה מהירה וחסכונית על מחשבי מק.

המשקל שלו, פחות מ־500 מגה בייט, הופך אותו לפתרון נגיש בהרבה מרוב המודלים הרב־מודאליים שדורשים כרטיסי מסך כבדים. הוא מגיע עם חלון הקשר של 8,192 טוקנים, שזה די והותר לניתוח עמודים שלמים, תרשימים או קטעי קריאה ארוכים יחסית בלי לחתוך את המידע באמצע.

מתאים ל

• עיבוד מסמכים מקומי במק

  חילוץ טקסט מתמונות ומסמכים באנגלית ישירות על המחשב, בלי לשלוח שום מידע רגיש לרשת.

• אפליקציות מק מובנות

  בזכות משקל של 494 מגה בייט אפשר לארוז אותו ישירות בתוך תוכנת מק מקומית בלי לנפח את ההתקנה.

• בדיקות ופיתוח מהיר

  ניסויים בפיתוח רב־מודאלי מקומי כשרק רוצים לבדוק צנרת נתונים לפני שעוברים למודלים כבדים.

איפה זה נופל

השם כולל את המילה preview, כלומר מדובר בגרסה מוקדמת ולא במוצר סופי, והתיעוד המקומי כמעט לא קיים מעבר לפקודת ההתקנה. המודל הוגדר רשמית רק עבור אנגלית, כך שאין שום הבטחה שהוא יצליח לקרוא עברית, לסדר כיווניות של טקסט מימין לשמאל או להתמודד עם גופנים מקומיים. בנוסף, 256 מיליון פרמטרים זה נפח קטן מאוד עבור מודל ראייה, והוא כנראה יתקשה בזיהוי פרטים דקים, טבלאות צפופות או סריקות מטושטשות.

אותה משפחה

SmolDocling יצא ב־2 גרסאות שיש להן עמוד כאן. אלה האחרות, לפי כמה מורידים אותן.

איך מריצים

כדי להריץ אותו צריך מק עם אפל סיליקון וספריית mlx-vlm בגרסה תואמת, לצד docling-core ו־pillow. אין פה צורך בחומרה ייעודית, אפילו מקבוק אייר בסיסי יריץ את קובצי ה־bfloat16 האלה בזיכרון המאוחד בלי להרגיש מאמץ.

אם אתם עובדים על שרת לינוקס או מחשב עם מעבד אינטל או אנבידיה, הפורמט הזה פשוט לא בשבילכם. במקרה כזה תצטרכו את גרסת המקור של המודל, או שתפנו ל־API חיצוני אם אין לכם כוח לנהל תלויות של ראייה ממוחשבת.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="docling-project/SmolDocling-256M-preview-mlx-bf16")
print(pipe("שלום"))

הקבצים

15 קבצים במאגר, 494 MB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• model.safetensors513.0 MB
• tokenizer.json3.5 MB
• vocab.json800.7 KB
• merges.txt466.4 KB
• model.safetensors.index.json38.1 KB
• zero_to_fp32.py33.3 KB
• tokenizer_config.json27.4 KB
• config.json10.0 KB
• added_tokens.json3.7 KB
• README.md2.6 KB
• .gitattributes1.5 KB
• special_tokens_map.json1.1 KB
• preprocessor_config.json486 B
• chat_template.json430 B
• processor_config.json68 B

הרישיון

הוא מופץ תחת רישיון cdla-permissive-2.0. הרישיון הזה מתיר שימוש מסחרי, שינוי והפצה של המודל והתוצרים שלו כמעט בלי מגבלות, כל עוד שומרים על תנאי הרישיון וציון המקור. אתם יכולים לשלב אותו במוצר שלכם בלי חשש מדרישות קוד פתוח מדבקות.

הרישיון המלא בעמוד המודל ↗