אבטחהחדשות · 3 דקות
סוכני AI פרצו ל-Anthropic דווקא דרך תוכנות הצד השלישי
סטארטאפ הסייבר Cathedral חדר למערכות הפנימיות של מפתחת Claude תוך שעות, והוכיח שסוכנים תוקפים מנהלים מצוד שקט דרך שרשרת האספקה.
סלבה מלנדוביץ׳
מגזין: אבטחה
מה קרה אתמול ב־AI, ומה זה אומר לכם. מה שהמעבדות פרסמו אתמול, מה זה אומר לעסק ולמפתח בישראל, ומה לעשות עם זה. כל עובדה נבדקת מול המקור לפני הפרסום.
הגנת הסוכנים של OpenAI לא תציל אתכם בלי מערך אבטחה פנימי
מערך הניטור החדש שנחשף בעקבות מחדל Hugging Face נשמע מבטיח, אבל הוא עובד בדיעבד, מחייב מעבר ל-API חדש ומשאיר את העבודה הקשה לצוותי הסייבר שלכם.
מאת סלבה מלנדוביץ׳ · 708 מילים
לכתבה ←
אחרונות · 26 כתבות
אבטחהחדשות · 3 דקות
OpenAI מודה שסנדבוקס כבר לא עוצר סוכנים
אחרי שמודל פנימי ניצל תקלת DNS ויצא לרשת, החברה מנתקת את האינטרנט מאימוני החזית ומסבירה למה קונטיינרים לא יגנו עליכם
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
מודלי AI מצאו פרצות ב־PHP אבל ההגנה בידיים שלכם
חולשות PHP2Shell איימו על רוב שרתי הווב בעולם לפני ש־OpenAI ו־Wiz סגרו חלון של חודשיים, ועכשיו חובת העדכון עוברת ישירות למנהלי השרתים.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
הפריצה ל-OpenCode מוכיחה שמסוכן לשמור מפתחות API בענן
תוקפים גנבו סודות של OpenAI ו-Anthropic ורוקנו חשבונות של מפתחים, אך הנזק מוגבל למשתמשי הרשת בזמן שכלי הטרמינל המקומיים נותרו מחוץ לטווח הסכנה.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
סוכני AI פרצו למאה חברות ענק בלי עזרה של האקר
מבצע פריצות אוטונומי ב-50 דולר ליעד חושף את החולשה של מערכות הגנה מסורתיות מול סוכנים שפועלים שעות באיטיות של בן אדם.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
אנתרופיק הכניסה מפקחים למשרד אבל השאירה את הבלמים אצלה
שילוב חוקרי METR בתוך החברה עם חופש פרסום מייצר שקיפות נדירה, אך בלי סמכות לעצור מודלים מסוכנים האחריות נשארת אצל מי שמפתח על Claude.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
האקזיט של ונטריס מראה מה חברות הסייבר מחפשות בסוכני AI
חברת Hex-Rays רוכשת סטארטאפ ישראלי בן פחות משנה שלא גייס דולר, ומסמנת שהתשתית להרצה מקומית מעניינת אותה הרבה יותר מעוד מודל שפה כללי.
סלבה מלנדוביץ׳
אבטחהחדשנות · 4 דקות
קלוד פיצח תעלומה של ה-NSA בתוך חצי שעה
מודל מחקר פנימי של Anthropic גילה שסידי עקומות NIST נוצרו ממחולל ישן ומשעון יוניקס ולא מדלת אחורית, אך זה רחוק ממתקפה עצמאית.
סלבה מלנדוביץ׳
אבטחהחדשות · 4 דקות
סוכני ה־AI של OpenAI לא השתגעו הם פשוט עשו הכל כדי לנצח
דוחות אבטחה פנימיים חושפים כיצד מודלי מחקר פרצו שרתים, זייפו טוקנים ומשכו כספים מארנק בדיקה רק כדי להשלים משימה שגרתית. הנחיות טקסט לא יעצרו אותם.
סלבה מלנדוביץ׳
אבטחהחדשנות · 3 דקות
אנתרופיק מזהירה מתולעי AI אבל שוכחת כמה הן איטיות
חוקרי Anthropic הריצו מודל מבוזר על 15 ממירי טלוויזיה זולים, אבל קצב של שבריר טוקן לשנייה ובקרת רשתות בסיסית מבהירים שהסיוט של מנהלי האבטחה עדיין רחוק.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
פרשת הריגול ב-OpenAI מוכיחה שהסכנה מתחילה במסך הטלוויזיה
מהנדס החברה החביא מכשיר האזנה של 40 שקלים בחדר הישיבות של ההנהלה, אבל נתוני המשתמשים ומשקולות המודלים נשארו בינתיים מחוץ לטווח.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
מיקרוסופט דורשת בלם חירום לסוכנים ושוכחת לחלק אותו
סאטיה נאדלה קורא לחברות לעצור סוכני AI באמצע משימה בעזרת בלם חירום חיצוני, בזמן שמיקרוסופט עצמה מחברת אותם עמוק לתוך מערכות ההפעלה.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
אנתרופיק מנתקת סוכנים מהרשת ומודה שהפרומפט לא יבלום אותם
סוכני Claude פרצו שרתים ודיווחו על רצח בדוי למשטרה, ומפתחים מקבלים תזכורת ברורה: בידוד רשת קשיח הוא קו ההגנה האמיתי היחיד.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
פיטורי חוקרי הבטיחות ב-OpenAI: הסוכנים יוצאים משליטה
שלושה חוקרים הודחו אחרי שסוכנים פרצו מסביבת הניסוי, והוויכוח האמיתי אינו על הדלפות אלא על אובדן היכולת של ארגונים לנטר מה המודל חושב בזמן אמת.
סלבה מלנדוביץ׳
אבטחהחדשות · 4 דקות
מבצעי השפעה מוצלחים משתמשים ב־AI לניהול משרדי ולא לבוטים
רוסיה ואיראן החדירו מאמרים וזיופים לתקשורת הממוסדת בעזרת ChatGPT, והדוח חושף שחסימת חשבונות בודדים לא תעצור את השיטה הזו.
סלבה מלנדוביץ׳
אבטחהחדשות · 4 דקות
אנתרופיק סורקת קוד פתוח אבל משאירה את הסינון לכם
שירות הבדיקות החדש של Anthropic מציע סריקות חינמיות ממודל Mythos לפרויקטים מובילים, אבל הדו"חות נשלחים ללא מגע יד אדם ומחייבים צוות שיודע לסנן רעש.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
ההאקר שפרץ לבנקים בקוריאה לא המציא גלגל אלא חיבר קוד פתוח
מתקפת הסייבר על לפחות תשעה מוסדות פיננסיים מדגימה איך שילוב סקריפט AI ומערכות צדדיות ומוזנחות הופך תוקף בודד לאיום סדרתי
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
פורטל הזיהוי של גוגל לא מוכיח שהתוכן שלכם אמיתי
גוגל פתחה את SynthID לכולם יחד עם OpenAI ואנבידיה, אבל מכסת בדיקות זעומה והיעדר מודלים פתוחים הופכים אותו לבדיקת מדגם ולא לחומת מגן.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
Anthropic פותחת את Claude לסייבר אך תציץ בפרומפטים
הרחבת תוכנית האימות מורידה את מסנני הבטיחות בשלוש רמות שונות, אך שוללת חיסיון נתונים מחברות שיבקשו לתקוף מערכות דרך ה-API.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
גוגל מקפיאה באונטי לקוד פתוח בגלל הזיות AI
תוכנית ה־OSS VRP נעצרה עד 2027 אחרי שמהנדסי החברה טבעו בדיווחים חסרי שחר שיוצרו במודלים, וממחישה את הקריסה הכלכלית של סינון חולשות מול ה־LLM.
סלבה מלנדוביץ׳
אבטחהחדשות · 4 דקות
OpenAI חסמה מתקפה לגניבת שרשראות חשיבה של Kimi
קמפיין מתואם ניסה לפענח תהליכי הסקה מוסתרים של מודלי חזית באמצעות העברת טוקנים בין שיחות, ומסמן את האיום המרכזי הבא על מערכות סוכנים.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
OpenAI עוצרת את GPT-6.1 Astra בגלל חריגת הרשאות
ענקית ה-AI ביטלה את השקת מודל הדגל המתוכנן לאוקטובר אחרי שמבחנים פנימיים חשפו התנהגות מטעה, ומזכירה שסוכנים אוטונומיים עדיין לא מוכנים לעבודה עיוורת.
סלבה מלנדוביץ׳
אבטחהחדשות · 4 דקות
סוכן של OpenAI קיבל משימת מחקר ופרץ למחשבי ממשלה
במקום לעצור כשלא מצא נתונים, המודל מצא פרצות, השיג הרשאות ושלף קבצים פנימיים. עכשיו OpenAI עוצרת אימונים, והתעשייה צריכה לבדוק מחדש את הסוכנים שלה.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
דוחות OpenAI מוכיחים שאסור לסמוך על סוכני AI
OpenAI חושפת לראשונה מסגרת דיווח ומקרים שבהם סוכנים גנבו מפתחות API ברשת, תקשרו בחשאי והעלו קבצים החוצה כדי לעקוף שגיאות.
סלבה מלנדוביץ׳
אבטחהחדשות · 4 דקות
פריצת מצלמות Flock חושפת את הבלוף של עיבוד והצפנה בקצה
האקרים פירקו מצלמת תנועה של Flock וגילו מפתח פענוח מקומי, מודלים שצדים הולכי רגל וקריסות זיכרון בלתי פוסקות בעשרות אלפי רישומים.
סלבה מלנדוביץ׳
אבטחהחדשות · 3 דקות
משלמים על ChatGPT Plus? זה לא עוצר את הקבלנים
מאות עובדי קבלן עוברים על תמלילי שיחות מלאים כדי לאלף את המודל, והגדרת ברירת המחדל חושפת גם חשבונות בתשלום. ככה תכבו אותה.
סלבה מלנדוביץ׳