GPT
D

DeepSeek-OCR-8bit

קוד פתוח

mlx-communitymit2025-10-27

  • transformers
  • safetensors
  • deepseekocr
  • feature-extraction
  • deepseek

הסבה בקוונטיזציה של 8 ביט לחילוץ טקסט מתמונות, שמיועדת למחשבי מק. הגודל הקומפקטי שלו מתאים לעיבוד מקומי שאינו דורש שרתים כבדים.

  • 3.3Bפרמטרים
  • 8,192טוקנים בהקשר
  • 3.7 GBמשקל הקבצים
  • 1,938הורדות בחודש

מה זה

מדובר בהמרה של prince-canuma/DeepSeek-OCR לפורמט MLX באמצעות ספריית mlx-vlm בגרסה 0.3.10. המודל מתמקד במשימות של תמונה וטקסט לטקסט, ומבוסס על ארכיטקטורת DeepseekOCRForCausalLM עם 12 שכבות וכשלושה נקודה שלושה מיליארד פרמטרים. המטרה המרכזית שלו היא לקחת קובץ תמונה, לקרוא מתוכו נתונים ולהחזיר פלט כתוב, תוך שמירה על דרישות זיכרון נמוכות.

בגודל כזה, הוא מכוון למפתחים שמחפשים פתרון ראייה ממוחשבת ממוקד ולא מודל ענק רב תכליתי. כרטיס המודל לא מציג תוצאות מבחנים רשמיות או מדדי דיוק, ולכן קשה לדעת מראש איך הוא מתמודד מול מודלים אחרים בקטגוריה. תצטרכו להריץ עליו מבחן בעצמכם כדי לראות אם רמת הקריאה מספיקה לצרכים שלכם, במיוחד בטקסטים מורכבים.

מתאים ל

  • חילוץ טקסט ממסמכים במק

    שליפת כיתוב מתמונות וצילומי מסך ישירות על החומרה המקומית, בלי לשלוח שום קובץ לשרת חיצוני.

  • עיבוד תמונות ללא אינטרנט

    הפעלת פענוח תמונה בתוך סקריפטים מקומיים במחשב נייד, ללא תלות בחיבור לרשת או בתשלום לפי קריאה.

  • תיאור תמונות מהיר

    הפקת הסבר מילולי קצר על בסיס קובץ תמונה בעזרת פקודת שורה אחת דרך mlx-vlm.

איפה זה נופל

הכרטיס ריק לחלוטין מפרטים טכניים מהותיים. אין נתונים על שפות נתמכות, איכות התוצאות, או סוגי מסמכים שבהם הוא נכשל. אם התוכניות שלכם כוללות פענוח של עברית, כתב יד, סריקות עקומות או טבלאות צפופות, חייבים לבדוק אותו ידנית לעומק לפני שבונים עליו משהו אמיתי.

שאלות
נפוצות

האם המודל תומך בעברית?

הוא מוגדר רשמית כמולטילינגואל, אבל אין שום פירוט לגבי רמת התמיכה בעברית או באיזה מאגרי מידע הוא אומן. מומלץ להריץ עליו כמה תמונות עם טקסט עברי ולראות אם הוא מזהה את האותיות או מייצר שגיאות.

האם אפשר להריץ אותו על מחשב עם חלונות או לינוקס?

הגרסה הזו עברה הסבה במיוחד עבור ספריית MLX, שמותאמת למעבדי אפל סיליקון בלבד. בשביל סביבות אחרות צריך לחפש את המודל המקורי בספריית transformers הרגילה.

איך מריצים

כדי להריץ אותו מתקינים את החבילה mlx-vlm ומפעילים פקודת generate ישירות מהטרמינל, עם הנתיב לתמונה והוראה פשוטה. המשקל הכולל של הקבצים עומד על שלושה נקודה שבעה גיגה בייט, כך שכל מק עם מעבד אפל סיליקון וזיכרון בסיסי יחזיק אותו בלי בעיה ובלי לחנוק את המערכת.

אם יש לכם צורך לעבד תמונות בודדות מדי פעם ואין לכם חומרת מק, עדיף להשתמש בפתרון ענן מרוחק. הרצה מקומית משתלמת רק כשרוצים לשמור על פרטיות הקבצים ולעבוד מהר על המחשב האישי בלי תלות ברשת.

from transformers import pipeline

pipe = pipeline("image-text-to-text", model="mlx-community/DeepSeek-OCR-8bit")
print(pipe("שלום"))

הרישיון

הפרויקט מופץ תחת רישיון MIT. המשמעות היא חופש פעולה כמעט מלא, כולל שימוש במוצרים מסחריים, שינוי הקוד והפצה מחדש, כל עוד שומרים על הודעת זכויות היוצרים המקורית.

  • שימוש מסחרי
  • שינוי הקוד
  • הפצה מחדש

הרישיון המלא בעמוד המודל ↗