nsfw_image_detection

מה זה

מדובר בהתאמה של Vision Transformer בגודל בסיסי, שאומן מראש על ImageNet ועבר כוונון ייעודי למשימה אחת ויחידה. הוא מקבל תמונה ברזולוציה של 224 על 224 פיקסלים, ומחזיר אחת משתי תוויות: רגיל או תוכן בלתי הולם. הכוונון נעשה על מאגר פרטי של כ־80,000 תמונות עם שונות גבוהה, בקצב למידה של 5e-5 ובאצוות של 16.

בבדיקות של היוצרים המודל רשם דיוק של כ־98 אחוזים עם שגיאת הערכה נמוכה מאוד, ומעבד כ־52 דגימות בשנייה. עבור מערכות שצריכות רק דגל בינארי של מותר או אסור, זו חלופה פשוטה בהרבה ממודלי ראייה ענקיים שדורשים כרטיסי מסך יקרים כדי לעשות את אותה פעולה בסיסית.

מתאים ל

• סינון תמונות פרופיל

  זיהוי מהיר של תמונות לא הולמות שהעלו משתמשים חדשים, ישירות ברגע ההעלאה ולפני שהן מוצגות לאחרים.

• בדיקת קבצים בצ'אט קבוצתי

  חסימה מקומית של קבצים מפורשים בתוך ערוצי דיון, בלי להוציא תמונות פרטיות ל־API של חברות צד שלישי.

• מיון ראשוני במאגרי מדיה

  סריקה מהירה של כמויות תמונות גדולות וסימון אלו שדורשות בדיקה ידנית של איש צוות.

איפה זה נופל

הבעיה המרכזית היא חלוקה בינארית מדי. המודל מכיר רק שתי קטגוריות, בלי מדרגות ביניים של רמיזה, אלימות, עירום חלקי או אמנות. אם התמונה לא נופלת בצורה מובהקת להגדרה שהוא אומן עליה, הוא עלול לתת תוצאות לא צפויות. מעבר לזה, המאגר של 80 אלף התמונות הוא פרטי ולא פתוח לבדיקה, כך שאי אפשר לדעת מראש אילו הטיות תרבותיות נכנסו פנימה בזמן האימון, וחובה לבדוק אותו על התמונות האמיתיות של המשתמשים שלכם לפני שמחברים אותו למחיקה אוטומטית.

איך מריצים

עם 86 מיליון פרמטרים ומשקל כולל של 1.4 גיגה בייט, המודל הזה רץ כמעט על כל דבר. אפשר לטעון אותו ישירות דרך ספריית transformers בפייתון בשלוש שורות קוד, עם פייפליין סטנדרטי של סיווג תמונות.

כרטיס מסך בסיסי יריץ אותו בקלות, אבל הוא מספיק קטן כדי לרוץ בצורה סבירה גם על מעבד רגיל אם אין לכם תעבורה היסטרית של תמונות בשנייה. שווה להחזיק אותו על שרת משלכם במקום לשלם לספק ענן חיצוני בכל פעם שמשתמש מעלה קובץ, כי עלויות החישוב שלו זניחות ביחס לערך של שמירה על המידע בתוך השרת שלכם.

from transformers import pipeline

pipe = pipeline("image-classification", model="Falconsai/nsfw_image_detection")
print(pipe("שלום"))

הקבצים

9 קבצים במאגר, 1.4 GB סך הכול. הקישורים מובילים ישירות ל־Hugging Face.

• optimizer.pt686.5 MB
• pytorch_model.bin343.3 MB
• model.safetensors343.2 MB
• falconsai_yolov9_nsfw_model_quantized.pt87.1 MB
• README.md10.6 KB
• .gitattributes1.5 KB
• config.json724 B
• preprocessor_config.json325 B
• labels.json38 B

הרישיון

הרישיון הוא Apache 2.0. מותר להשתמש בו לצרכים מסחריים, לשנות אותו, להטמיע אותו במוצרים שלכם ולהפיץ אותו הלאה. התנאים העיקריים הם שמירה על הצהרת זכויות היוצרים והרישיון המקורי, בלי להטיל אחריות משפטית על היוצרים.

• שימוש מסחרי
• שינוי הקוד
• הפצה מחדש
• שימוש בפטנטים

הרישיון המלא בעמוד המודל ↗