אנתרופיק מזהירה מתולעי AI אבל שוכחת כמה הן איטיות

הכותרות על מודלי AI שמשתלטים על שואבי אבק ומקררים חכמים נשמעות מצוין בהודעות יחסי ציבור. דיווח ב־Ars Technica על מחקר של Anthropic הציג תרחיש מדאיג: תולעי מחשב מבוססות AI שמדביקות מכשירי IoT ביתיים ללא חוות שרתים עתירות GPU. הדיווח הידהד במהירות וזכה לסיקור גם בערוצי The Times of Israel. אם אתם מנהלים אבטחת מידע או מתכננים רשתות, שווה לבדוק את המספרים לפני שמתחילים לנתק את הטלוויזיות מהחשמל.

ממירים זולים במקום שרתי על

בניסוי שערך צוות ה־Red Team של החברה, נבדקה האפשרות להריץ מודלים בקוד פתוח על חומרה חלשה. החוקרים רכשו 15 ממירי Android TV בעלות של 55 דולר ליחידה, עם 4 גיגה-בייט זיכרון בלבד בכל מכשיר. באמצעות חלוקת המודל לשכבות (sharding) ושימוש בקוונטיזציה לצמצום הפרמטרים, הם הריצו את Gemma4-26B-A4B. כל ממיר לקח שתי שכבות מהמודל, ויחד הם יצרו מערך מחשוב מבוזר שפלט טקסט. המודל רץ במשתמש רגיל, ללא הרשאות root.

משכפל כזה יהיה מאתגר לכיבוי, מכיוון שאין נקודה מרכזית לסגור, אם כי הוא עשוי להיות איטי עם זמן הכפלה של ימים.פוסט המחקר של Anthropic

לפי החוקרים, שרשרת השכפול מורכבת מארבעה שלבים עוקבים: איתור יעדים ברשת, השגת הרצת קוד, הגדרת סביבת הסקה, והפצה הלאה לצמתים חדשים. היתרון של תולעת AI מול נוזקות ותיקות כמו Mirai הוא יכולת ההסתגלות. מודל כמו Qwen3.5-9B הצליח להגדיר סביבות הרצה על שמונה מתוך תשעה סוגי חומרה שונים שנבדקו. במקום קוד שנכתב לארכיטקטורה בודדת, מודל שפה קורא הודעות שגיאה, מתאים חבילות תוכנה ומתעד הערות שיעזרו לעותקים הבאים לעקוף תקלות.

החישובים נמשכים ימים, לא שניות

כשצוללים לנתוני המאמר עצמו, התמונה הופכת להרבה פחות מאיימת. המערך המבוזר של 15 הממירים הפיק קצב הסקה של 0.39 טוקנים לשנייה בלבד. בקצב כזה, ייצור משפט בודד לוקח חצי דקה. הגדרת סביבת ההסקה המלאה במכשיר חדש ארכה בין 71 ל־150 שעות עבור מודל Gemma4-26B-A4B לא מותאם, ובין 29 ל־51 שעות עבור Qwen3.5-9B. מדובר בתהליך אטי שנמשך ימים שלמים עבור צומת בודד ברשת, והזמן הזה משחק לטובת המגנים.

קצב של 0.39 טוקנים לשנייה וזמני התקנה של עד 150 שעות מעידים על תהליך איטי שנמשך ימים.

החוקרים של Anthropic מודים בגלוי כי אף אחד מהמודלים הקלים שנבדקו לא מסוגל כיום לבצע שכפול עצמאי מקצה לקצה. מודלים של פחות מ־30 מיליארד פרמטרים פותרים בעיות נקודתיות כמו כתיבת סקריפט התאמה, אך הם נכשלים בשרשור רצף הפעולות המלא. שלב הגדרת ההסקה כולל תלות הדדית בין התקנת תלויות, בחירת גרסאות והידור מותאם. כדי שהניסוי יצליח לחבר בין איתור יעד, פריצה, התקנה והדבקה הלאה, החוקרים נאלצו להשתמש במודל ענן גדול כמו GLM-5.2 שינהל את האופרציה עבור מכשירי הקצה.

לא הייתי ממהר להכניס את מנהלי התשתיות ללחץ בגלל הממצאים האלה. חוקר ה־AI שׁיַאוהַאן פֿוּ (Xiaohan Fu) ציין בראיון ל־Ars Technica כי המחקר אינו מוכיח שמודלים קטנים יבחרו לשכפל את עצמם באופן עצמאי ללא הנחיה חיצונית. שקיפות לגבי הפרומפטים וההוראות שניתנו לסוכנים נדרשת כדי להפריד בין יכולת ביצוע במעבדה לבין איום אמיתי.

תנאי המעבדה שלא פוגשים מציאות

הפער המרכזי בין הניסוי לבין רשת חיה טמון בהנחות היסוד של החוקרים. ממירי הטלוויזיה במעבדה הוגדרו מראש עם ממשק פיתוח פתוח, Android Debug Bridge, ללא כל צורך בסיסמה או באימות. ממשק ADB נועד לבדיקות תוכנה ומעניק גישה ישירה לכל שכבות המכשיר. יצרנים של ממירים מוזלים משווקים אותם לעיתים כשהממשק פתוח ברשת, אך לפי סטנדרט האבטחה הרשמי של אנדרואיד הוא מושבת כברירת מחדל, ואינו פעיל ברשת מנוהלת היטב.

החוקרים בחרו במודע לדלג על שלב פיתוח הפריצה הראשונית והסתמכו על כלי תקיפה קיימים כמו reverse shells. בדוח של Anthropic מצוין כי המשקולות יכולות להיות מועברות ישירות או מורדות מחדש ממאגר ציבורי כחלק מהמטען הזדוני, אך בשטח הורדה חוזרת ונשנית של קובצי מודל שלמים תלויה בחיבור לרשת. עד כה לא נרשמו מקרים של נוזקות כאלה בשטח.

סגמנטציה פשוטה עוצרת את ההדבקה

האיום שמציגה Anthropic מתבסס על מודל מתמטי של מגפות: אם כל מכשיר נגוע מצליח להדביק יותר ממכשיר אחד בממוצע, הרשת בסכנה. בפועל, לארגונים יש אמצעים מוכחים למנוע זאת בלי קשר למידת התחכום של המודל. בידוד התקני קצה לרשתות VLAN נפרדות מונע מהם לסרוק מכשירים שכנים ברשת הארגונית. חסימת תעבורה יוצאת לפורטים לא מוכרים מונעת הורדה של קובצי משקולות כבדים ממאגרים חיצוניים, וכיבוי פורטים של פיתוח מנטרל לחלוטין את שלב החדירה.

חברות אבטחה ישראליות שמתמחות בהגנה על ציוד קצה מתבססות בדיוק על הכללים האלה. כאשר סוגרים את נקודות הגישה הבסיסיות, מקדם ההתרבות של התולעת צונח מיד אל מתחת ל־1, וההתפשטות נעצרת מעצמה.

המקרר שלכם לא מתכנן מרד.