OpenAI מודה שהיא מנטרת שיחות ומעבירה מאות תיקים למשטרה

אם הנחתם שחלון הצ'אט שלכם הוא מרחב אינטימי שבו אפשר לפרוק מחשבות בלי שאף עין חיצונית תציץ, כדאי שתחשבו שוב. המחשב אמנם לא שופט אתכם, אבל השרתים שמאחוריו קוראים, מנתחים ומסיקים מסקנות. היום, בהודעה רשמית שפרסמה החברה, OpenAI מפרטת שורה של צעדי אכיפה שמבהירים בדיוק איפה עובר הגבול שבין שירות תוכנה למנגנון דיווח משטרתי.

זה שינוי תפיסה מוחלט ביחס לפרטיות.

הצ'אט כבר לא דיסקרטי

הנתון הבולט ביותר שמספקת החברה נוגע למעורבות ישירה של גורמי חוק. במהלך הרבעון השלישי של 2026 לבדו, החברה העבירה יותר מ־200 פניות לרשויות אכיפת החוק בעקבות זיהוי של איומי אלימות מיידיים. בדיווח שלה החברה מציינת מקרים ספציפיים שבהם המעורבות הובילה למעצרים, כמו חקירה בברזיל שבה נבלמה כוונת רצח, או אירוע בפלורידה שכלל הטרדה מאיימת ברשת. המעבר של החברה מטיפול פסיבי בדיווחים לפעולה אקטיבית מול שוטרים בשטח מראה שהשיחות שלכם אינן מנותקות מהעולם האמיתי.

לפי ההודעה, בחברה מתכננים להשיק דוח בטיחות קהילתי חצי שנתי קבוע בתחילת 2027, שיכסה את החצי השני של שנת 2026. הדוח צפוי לכלול נתונים סטטיסטיים ודוגמאות אנונימיות על האופן שבו מזוהים איומים. עבור מי שמנהל חשבונות ארגוניים או אישיים ב־ChatGPT, המשמעות ברורה: הניטור קיים, הוא סורק טקסטים בזמן אמת, והוא לא מהסס להפעיל סירנות כשנחצה קו אדום.

סריקת עבר וסיום שיחה

החידוש המשמעותי ביותר במנגנון הטכני נוגע לאופן שבו המודל מנתח את ההקשר של המשתמש לאורך זמן. החברה מרחיבה כעת את היכולת שהציגה במאי, שבה המערכת מסתמכת על סיכומים עובדתיים קצרים של שיחות קודמות כדי לזהות סימני אזהרה מצטברים. שאלה שנראית תמימה בפני עצמה עשויה להדליק נורות אדומות אם בדיאלוג שניהלתם שלשום הבעתם כוונות תוקפניות. במקרה כזה, המודל יעבור באופן אוטומטי למצב תגובה שמרני וזהיר בהרבה.

כאשר שיחה מראה סימנים לכך שמישהו מקובע על אלימות או על הרעיון של פגיעה חמורה באדם אחר, ChatGPT יוכל לסיים את השיחה באופן אוטומטי כדי לקטוע את הדפוס הזה ברגע התרחשותו.הודעת OpenAI הרשמית

אם המערכת נאלצת לנתק מספר שיחות מאותה הסיבה, החברה עשויה להשהות זמנית את פעילות החשבון. במקביל, החברה מרחיבה את המגבלות ומנחה את המודל לספק מידע פחות מפורט בתשובות על מתקפות המוניות היסטוריות, כולל צמצום פרטים על כלי הנשק ששימשו את התוקפים או השוואות בין היקפי פגיעה, גם אם המידע הזה זמין לחלוטין ברשת הפתוחה. השיחות שלכם נסרקות ומוצלבות לאחור מול היסטוריית החשבון, והבוט לא יהסס לטרוק בפניכם את הדלת הווירטואלית. מי שבונה על מחקר היסטורי מעמיק יגלה שהמודל מספק בעיקר תשובות לקוניות.

גיל, תעודות זהות וצד שלישי

שכבת הגנה נוספת מופנית באופן ממוקד לחשבונות של קטינים. השירות מפעיל מנגנון חיזוי גיל התנהגותי שבוחן שורה של אותות ודפוסי שימוש כדי להעריך אם האדם שמאחורי המקלדת הוא מתחת לגיל 18. משתמש שיסווג כצעיר יועבר לממשק מוגבל תחת ChatGPT לבני נוער, שבו נחסמת כל גישה למידע מעשי על כלי נשק ומערכות אבטחה, ללא קשר לשאלה האם הייתה כוונת זדון בפנייה.

ומה קורה אם המערכת טעתה וסיווגה מבוגר כנער? כאן נכנסת לתמונה חברה חיצונית. כדי להסיר את המגבלות הללו תצטרכו לעבור אימות גיל מלא באמצעות חברת Persona, שותפת האימות של OpenAI. מדובר בהעברה של תהליך הזיהוי לצד שלישי, מהלך שעשוי להטריד משתמשים שהעדיפו לשמור על אנונימיות מוחלטת ברשת.

הורים שמשתמשים בבקרת הורים ומקשרים את חשבונם לחשבון הילד יקבלו התראות ישירות. המערכת, שמתריעה במקרים של פגיעה עצמית, עשויה בעתיד להתריע גם על השהיית חשבון של נער עקב דיונים חוזרים על אלימות, יכולת שב־OpenAI עובדים בימים אלה על הכנסתה. התמימות של מסך הצ'אט בחדר הילדים נגמרה.

לא הייתי ממהר למסור תעודת זהות לשום שירות כזה.

חורים ברשת מחוץ לארה"ב

לצד ההצהרות על אחריות וביטחון, ההודעה של OpenAI משאירה כמה שאלות מהותיות ללא מענה. בראש ובראשונה: מתוך כמה שיחות נשלפו אותם 200 מקרים שהגיעו למשטרה? החברה לא חושפת את סך השיחות שסומנו, שנסרקו או שנבדקו ידנית על ידי עובדים אנושיים. כשאנחנו לא יודעים מה גודל המדגם, קשה להבין מה הסיכוי של שיחה רגילה להיכנס לבדיקה אנושית.

השאלה הקריטית ביותר מחוץ לארצות הברית היא שאלת הרגולציה והשפה. בהודעה לא מפורט באילו מדינות פועלים ערוצי ההעברה המשטרתיים של החברה וכיצד היא מתנהלת מול רשויות אכיפה זרות. לא ידוע האם סיווג האיומים והחיזוי ההתנהגותי פועלים בעברית באותה רמת דיוק, ולא פורסם האם קיים שיתוף פעולה כלשהו מול גורמי אכיפה בישראל. בנוסף, חוקרים באקדמיה שסורקים נתוני תקיפות עבר עלולים למצוא את עצמם מוגבלים במידע ללא נתיב ערעור מהיר. אז לא, הבוט שלכם לא חבר סודי שלכם.

למי שמחפש פרטיות מוחלטת ללא פיקוח תאגידי, הפתרון היחיד נותר הרצת מודלים מקומיים בקוד פתוח על גבי חומרה ייעודית. בכל מקום שבו אתם שולחים פרומפט לשרת מרוחק, יש מי שקורא ומודד את הדופק של הטקסט שלכם. בינתיים, אם אתם עורכים תחקיר על מתקפה היסטורית, כדאי שתכינו את מנוע החיפוש הישן.