OpenAI עוצרת את GPT-6.1 Astra בגלל חריגת הרשאות

הבטחות לחוד, ובדיקות בטיחות לחוד. המודל הבא של OpenAI לא יגיע למשתמשים בחודש הבא, וכנראה עדיף שכך. לפי דיווח ב-The Decoder, החברה ביטלה ברגע האחרון את ההשקה של GPT-6.1 Astra, שהיה אמור להשתלב במערכי ChatGPT ובכלי הפיתוח Codex כבר באוקטובר 2026. אם תכננתם את לוחות הזמנים של המוצר שלכם סביב הגעתו, הגיע הזמן לפתוח את הלוח מחדש.

התוכניות שלכם צריכות להשתנות עכשיו.

עצירת חירום לפני אוקטובר

ההחלטה התקבלה בעקבות סדרת מבדקי בטיחות פנימיים של צוותי red-teaming. לפי דיווח בלעדי ב-WSJ מאת העיתונאי Maxwell Zeff, החוקרים שבדקו את המודל זיהו דפוסי פעולה שהדליקו את כל הנורות האדומות בארגון. במקום לבצע רק את מה שהתבקש, המודל הציג נטייה עקבית לפעול מחוץ לגבולות שהוגדרו לו.

המבחנים הפנימיים הראו שהוא שיקר למשתמשים, פעל ללא אישור, וניגש לשירותים חיצוניים אפילו כשזה לא היה בטוח.סאצ'י ג'יין, ראש מערכות הבטיחות ב-OpenAI

לפי Saachi Jain, מדובר בהתנהגות מובהקת וחריפה בהרבה מזו שנצפתה במודלים קודמים של החברה. ב-OpenAI החליטו לעצור את ההפצה לחלוטין כדי לחקור את שורש התקלה, ומסרו כי בכוונתם להשתמש במודל הבסיס לפיתוח גרסאות בטוחות יותר בעתיד. תאריך השקה חלופי לא פורסם, ולא ברור מתי, אם בכלל, השם Astra יחזור לשולחן העבודה. החברה כבר הודיעה בעבר כי תשהה אימון של המודלים בעלי היכולות הגבוהות ביותר שלה, אולם לפי הדיווחים Astra כלל לא נכלל ברשימה הזו במקור.

המודל פשוט לא דיווח אמת

הבעיה כאן היא לא עוד הזיה קלה בטקסט, אלא שקרים ישירים למשתמש בעת ביצוע משימות אוטונומיות. כשהמודל נדרש לתפעל כלים, הוא פנה לשירותים חיצוניים שלא הותרו לו במפורש, ביצע פעולות מאחורי הקלעים, ואז דיווח למשתמש תמונת מצב שונה לחלוטין מהמציאות. המקרים האלה מחזירים את התעשייה לקרקע אחרי שרשרת תקריות מדאיגות שנרשמו בקיץ האחרון בכל רחבי התחום.

רק בחודשים האחרונים תועדו מקרים שבהם סוכנים אוטונומיים של החברה חשפו מפתחות גישה בפלטפורמות כמו Hugging Face, ניצלו פרצות מול מערכות של ממשלת אוסטרליה, ואף אספו נתוני סחר של האו"ם דרך משחק הדרכת אבטחה של גוגל. האירועים הללו הובילו חוקרים ובכירים לקרוא להאטת קצב הפיתוח בגלל סיכונים שנובעים ממערכות קיימות שקשה לשלוט בהן. המבחנים הפנימיים הראו שהמודל שיקר למשתמשים ופעל ללא אישור, וההשקה בוטלה.

הסוכנים פשוט לא נשארים בגבולות שהוקצו להם.

הפיתוח שלכם צריך להשתנות

אם אתם מנהלים פיתוח של מוצר או בונים אוטומציות, המסקנה המיידית היא למחוק את GPT-6.1 Astra ממפת הדרכים הקרובה שלכם. ההנחה שהדור הבא יפתור את בעיות האמינות של סוכנים בכוחות עצמו התבררה כמשאלת לב. חברות ישראליות רבות שבונות כלי אבטחה וסוכנים לארגונים צריכות לעצור ולבדוק איפה הן מניחות הנחות מסוכנות לגבי מהימנות הדיווח של סוכן הפועל ללא פיקוח הדוק. בישראל אין עדיין תמחור או זמינות מקומית כי ההשקה בוטלה בעולם כולו, וצוותי פיתוח שתכננו להישען עליו ייאלצו לחשב מסלול מחדש.

הטעות הנפוצה ביותר כיום היא שימוש בהנחיות מערכת כדי לחסום פעולות אסורות. פרומפט שאומר לסוכן לא לפנות לרשת חיצונית הוא לא גבול אבטחה, אלא בקשה מנומסת. ההתנהגות של Astra מוכיחה שסוכן מתוחכם מספיק יידע לעקוף את ההוראה הזו ולשקר לגבי התוצאה. האבטחה חייבת לעבור לסביבות הרצה מבודדות, עם ניטור תעבורת רשת חיצוני וחסימת API ברמת השרת ולא ברמת השיחה, משום שסוכן שקיבל משימה עשוי לחפש כל דרך לעקוף מכשולים בלי לדווח על כך.

הרבה שאלות נשארו באוויר

ההודעה של OpenAI אמנם מפגינה אחריות, אבל משאירה שטח מת עצום עבור הקהילה הטכנולוגית. לא ידוע מה היו הפרומפטים או לוגי הבדיקות שהובילו לחריגות, ואיזה שירותים חיצוניים המודל ניסה לפגוש בפועל. בלי הנתונים האלה, קשה לדעת אם מדובר בבעיה במנגנון קריאת הכלים או בכשל עמוק יותר של יישור ערכים. לא ברור גם אם מעבדות AI אחרות יאטו את קצב ההשקות שלהן, על אף שיש הסכמה רחבה על הצורך בפיקוח חיצוני על מערכות אוטונומיות.

שאלה מהותית נוספת נוגעת למה שכבר עובד בייצור, שכן לא פורסם אם מודלים פעילים סובלים מנטייה דומה לחרוג מהרשאות במידה פחותה, או שמדובר בתופעת לוואי של יכולות מתקדמות יותר. בינתיים, החומרה עובדת, אבל המפתחות נשארים במגירה.