משלמים על ChatGPT Plus? זה לא עוצר את הקבלנים

כולם משתמשים בצ'אט כאילו הוא יומן סודי, יועץ עסקי או פסיכולוג לעת מצוא. עכשיו מתברר שמאחורי המסך יושבים אנשים בשר ודם, מקבלים שכר שעתי וקוראים בדיוק את מה שהקלדתם. לפי תחקיר 404 Media, חברת OpenAI מפעילה מאות עובדי קבלן חיצוניים במסגרת פרויקט פנימי שמכונה Project Lily. המטרה הרשמית היא לדרג תשובות ולשפר את התנהגות המודל, אבל בפועל העובדים האלה נחשפים לשיחות אמיתיות לחלוטין מתוך זרם המשתמשים העצום של ChatGPT.

מאות קבלנים על השיחות שלכם

הפרויקט מעסיק צבא של בודקים שמקבלים גישה לתמלילים שלמים, כולל היסטוריית השיחה המלאה. תפקידם העיקרי הוא לדרג את תגובות הצ'אטבוט בסולם שנע בין 1 ל-7, לאמלק את כוונת המשתמש ולסמן בעיות התנהגות מוכרות. הדגש המרכזי שקיבלו הסוקרים הוא להפחית חנופה מוגזמת, לבלום שימוש יתר באמוג'ים ולמנוע מהמודל להאניש את עצמו. עובד קבלן מצפון אמריקה ששוחח עם התחקירנים סיפר שהוא מרוויח יותר מ-50 דולר לשעה עבור הקריאה הזו, סכום שנחשב גבוה בהרבה מהשכר הממוצע. העובדים מגויסים דרך חברות מיקור חוץ כמו Crossing Hurdles ומשולמים דרך חברת ההדרכה Mercor.

No, I don't think they would imagine some contractor somewhere is analyzing the conversations.עובד סקירה בפרויקט Lily של OpenAI בריאיון לתחקיר 404 Media

סינון אוטומטי שלא ממש מסנן

ב-OpenAI לא הכחישו את הדברים בעקבות הפרסומים של The Decoder ואתר גיקטיים. החברה טוענת כי השיחות עוברות סינון אוטומטי ייעודי שמסיר שמות משתמש ומידע מזהה לפני שהן מגיעות למסכי הקבלנים. הכלי שבו מדובר הוא OpenAI Privacy Filter, מודל מסווג בעל 1.5 מיליארד פרמטרים שמיועד להשחיר פרטי קשר וסודות מסחריים.

אלא שבדוקומנטציה הטכנית של הכלי מודה החברה בעצמה שהמערכת רחוקה מלהיות מושלמת. המודל עלול לטעות, לפספס מזהים נדירים בהקשרים מעורפלים ולסבול מביצועים משתנים בשפות שאינן אנגלית. במסמכים שנחשפו נמצאו שיחות שבהן משתמשים התחננו מפורשות בפני הצ'אט שישמור על סודיות המידע, אך התמלילים הגיעו במלואם לידי הקבלנים כשהם כוללים זיכרונות משתמש, מיקומים ונתונים רגישים. אז כן, השם שלכם בראש החשבון אולי מוסתר, אבל כל מה שכתבתם בתוך ההודעה עדיין שם.

ההבטחות על פרטיות מתגלות כחלולות.

תשלום חודשי לא קונה פרטיות

הטעות הנפוצה ביותר בקרב משתמשים היא ההנחה ששליפת כרטיס אשראי מקנה חסינות. אם אתם משלמים 20 דולר בחודש על ChatGPT Plus או 200 דולר על Pro, ברירת המחדל שלכם עדיין מאפשרת לקבלנים אנושיים לקרוא את השיחות. OpenAI מתייחסת לכל החשבונות הפרטיים כמקשה אחת, ללא תלות ברמת המנוי. החשבונות שבהם אימון המודלים מושבת כברירת מחדל הם מסלולי Team, Enterprise, Edu והעבודה דרך ה-API, אם כי גם בהם החברה שומרת לעצמה אפשרות לבדיקה אנושית במקרים של ניטור שימוש לרעה או ציות לחוק. אצל המתחרים המצב לא שונה בהרבה: גם חברת Anthropic אישרה שהיא מעסיקה סוקרים אנושיים לבדיקת תגובות של Claude בקרב מי שלא כיבה את ההגדרה המתאימה.

כיבוי הבדיקה בשלושה קליקים

כדי למנוע מההודעות שלכם להגיע לעיניים זרות, צריך להיכנס לעמוד Data Controls FAQ בהגדרות ולשנות את ברירת המחדל באופן יזום. תחת תפריט ההגדרות של החשבון מסתתר מתג בשם Improve the model for everyone, שמנוסח כמו תרומה קהילתית תמימה אך משמש בפועל כהסכמה לסקירה אנושית. לא הייתי ממהר לסמוך על ניסוחים כאלה.

כאן מגיעה ההסתייגות שרוב המשתמשים מפספסים: הכיבוי עובד רק מעכשיו והלאה. השינוי בהגדרות מגן על שיחות חדשות בלבד, ולא חל באופן רטרואקטיבי על תמלילים שכבר נלכדו בעבר ונשמרו במאגרי הסקירה של הקבלנים. אם השתמשתם בצ'אט זמני (Temporary Chat), השיחה אינה משמשת לאימון אך עשויה להישמר במערכות החברה למשך 30 יום לצורכי ניטור שימוש לרעה בלבד.

חשיפה משפטית לעסקים מקומיים

ההתנהלות הזו הופכת מבעיית מבוכה אישית לסיכון משפטי של ממש ברגע שמדובר בעסקים ישראליים. עובדים רבים מזינים לחשבונות פרטיים סיכומי ישיבות, התכתבויות פנימיות, נתוני לקוחות ואפילו רשומות רפואיות כדי לייעל תהליכים. חשיפת המידע הזה לקבלנים חיצוניים עלולה להוות הפרה בוטה של חוק הגנת הפרטיות הישראלי, שמטיל אחריות אישית ותאגידית על שמירת מידע אישי. אם העסק שלכם מחזיק במאגרי מידע של לקוחות ומאפשר לעובדים לעבד אותם בחשבונות פרטיים, אתם חושפים את עצמכם לתביעות ולסנקציות מנהליות. ההמלצה המקצועית היא לעבור מיד לחשבון ארגוני מנוהל שבו איסוף הנתונים מנוטרל ברמת השרת, או לחדד נוהל מחמיר שאוסר הזנת פרטים מזהים.

בינתיים, הכפתור בהגדרות עדיין מופעל אצל רובכם.