גוגל מקפיאה באונטי לקוד פתוח בגלל הזיות AI

הבטחתם למהנדסים שלכם שמודלי שפה יקצצו שעות עבודה, אבל שכחתם לבדוק מה קורה כשהצד השני משתמש באותם כלים בדיוק. בדיווחי אבטחה, היפוך היוצרות הזה קרה מהר מהצפוי. לפי פרסום אתמול ב־TechCrunch, חברת Google החליטה לעצור הגשות בתוכנית תגמולי הקוד הפתוח שלה. המהנדסים פשוט לא עומדים בקצב בדיקת הטקסטים שהמודלים פולטים.

עצרו רק את פגיעויות המוצר

ההודעה שעלתה לחשבון של Google VRP ברשת Twitter ובאתר Bughunters עשתה רעש בקהילת המחקר, אבל כדאי לדייק את העובדות לפני שנכנסים לפאניקה. ההשעיה נכנסה לתוקף ב־1 באוקטובר 2026, והיא תקפה להגשות של פגיעויות מוצר בלבד תחת תוכנית ה־OSS VRP. לפי גוגל, העדכון הבא על מבנה התוכנית יפורסם ברבעון הראשון של 2027. זה לא ביטול גורף של כלל התוכניות בחברה.

כל היתר ממשיך לפעול כרגיל. לפי דוקומנטציה רשמית שמפרטת את כללי ההקפאה, מסלול ה־Patch Rewards ממשיך לקבל הצעות לתיקוני קוד ולתגמל עליהן. גם דיווחים על בעיות בשרשרת האספקה של הקוד הפתוח פתוחים להגשה, לצד תוכניות הבאונטי הרגילות של שירותי הענן ומערכת ההפעלה אנדרואיד. מי שמצא חולשת תשתית אמיתית עדיין יקבל תשלום, אבל הברז להגשות טקסט פתוח על מוצרי קוד פתוח נסגר לחלוטין.

This pause is due to a significant rise in automated submissions, the vast majority of which are not valid.גוגל, בהודעה הרשמית באתר Bughunters

אסימטריה של עלות אפסית

השורש של המשבר הזה אינו טכנולוגי אלא כלכלי. חוקר אבטחה עצמאי יכול לקחת קוד מקור פתוח, להריץ עליו סקריפט שמזין פונקציות לתוך מודל שפה, ולבקש ממנו לנסח עשרות דוחות אבטחה שנראים מרשימים ומנומקים. העלות לחוקר עומדת על שבריר סנט לחשבון ה־API, והפעולה אורכת חמש שניות. מנגד, כדי לקבוע שדיווח כזה שגוי, מהנדס אבטחה אנושי של גוגל צריך לקרוא את הטקסט, לפתוח את הסביבה, לבדוק את נתיב הקריאה ולהבין שהמודל המציא פגיעות שאינה קיימת.

כשייצור דיווח עולה אפס דולר והבדיקה שלו עולה שעת עבודה של מהנדס מנוסה, שום תוכנית באונטי לא יכולה לשרוד.

האסימטריה הזו מחקה לחלוטין את מנגנון הסינון. תוכניות באג באונטי נבנו מתוך הנחה שלחוקר יש עלות זמן אמיתית, מה שמונע ממנו להציף פניות סרק ומאלץ אותו להגיש רק חולשות שהוא מאמין בהן. הכלים החדשים מחקו את החסם הזה. כלי אימות בסיסיים כמו Cloudflare Turnstile יכולים למנוע בוטים פשוטים ברמת הטופס, אבל הם לא עוזרים כשאדם אמיתי מעתיק ומדביק פלט מנופח של LLM ישירות למערכת.

הזיות במקום חולשות אמיתיות

הבעיה בדיווחים האלה נוגעת לכמות ולתוכן כאחד. לפי דיווח ב־Tom's Hardware, מהנדסי החברה ומתחזקי הקוד הוצפו בדוחות שכללו הזיות קוד מוחלטות. מודלים נטו להמציא משתנים, לייחס לפונקציות התנהגות שאינה קיימת בספריות, או לתאר תרחישי ניצול בלתי אפשריים שנשמעים משכנעים לחלוטין ברמת הניסוח הטכני.

ברשתות החברתיות הופצו בימים האחרונים מספרים על זינוק של 420% בדיווחים, אבל לטענה הזו אין שום אישור רשמי. בגוגל בחרו להגדיר את התופעה באופן לקוני כעלייה משמעותית בדיווחים אוטומטיים שרובם המוחלט אינו ולידי. העובדה שגוגל, שמחזיקה באחד ממערכי הסינון המתקדמים בעולם, הרימה ידיים ובחרה בהקפאה של חודשים, מראה שאין לה כרגע מנגנון תוכנה שיודע להבדיל בין דיווח אמיתי לטקסט מפוברק של מודל.

תדרשו הוכחת היתכנות עובדת

עבור צוותי אבטחת מידע בישראל ומנהלי פרויקטים שמפעילים ערוצי קבלת דיווחים, המהלך של גוגל הוא קריאת כיוון ברורה. לא הייתי ממהר להשאיר טפסים חופשיים שמקבלים תיאורי טקסט בלבד פתוחים לקהל. הפתרון המעשי הוא התניית כל בדיקה בקבלת קוד הוכחת היתכנות מלא, שרץ בסביבת בדיקה מבודדת ומדגים את הניצול ללא צורך בהתערבות ידנית.

חוקרי אבטחה ישראלים עצמאיים יצטרכו להתרגל לסטנדרט מחמיר בהרבה כשהתוכנית של גוגל תיפתח מחדש ב־2027. סביר להניח שנראה מנגנוני מוניטין נוקשים יותר ודרישות סף טכניות שיסננו מראש דוחות מבוססי פרומפטים. מי שמסתמך על מודלים כדי לייצר נפח דיווחים יגלה שהדלתות נסגרות בגוגל ובכל פלטפורמות הבאונטי המרכזיות.

בינתיים, המהנדסים בגוגל לפחות יזכו לחזור לקרוא קוד אמיתי במקום הזיות שנראות כמו קוד.