קוד האתיקה של מיקרוסופט לא ישנה לכם כלום בפרודקשן

מיקרוסופט החליטה ללמד את המודלים שלה נימוסים והליכות. הטיוטה הרשמית שפורסמה ב-14 בספטמבר 2026 תחת הכותרת Humanist AI כוללת 37 עמודים של כוונות טובות, אזהרות פילוסופיות ושלילה מוחלטת של תודעה למכונות. אם אתם בונים כעת מערכות מבוססות סוכנים, הנייר הזה נשמע אולי כמו רגולציה שתשבור לכם את ה-API מחר בבוקר. בפועל, אין סיבה לעצור שום תהליך.

לפי הדיווח ב-The Verge, המסמך מגיע בשיאו של גל לחץ בתעשייה לקבוע גבולות בטיחות ברורים. אלא שקריאה מדוקדקת מראה פער ניכר בין ההצהרות לבין השירותים שאתם צורכים בפועל בענן של Azure. לפי החברה, הטיוטה הזו מיועדת להנחות את מודלי הבית העתידיים החל משנת 2027, והיא אינה משנה בשלב זה דבר בסביבות הפיתוח שלכם.

לא הייתי ממהר להתרגש מניירות עמדה כאלה.

אפס התחייבות בחוזה

המסמך מנוסח כמניפסט ערכי סביב המותג MAI, חטיבת מודלי הבית שמיקרוסופט מפתחת לצד שותפויות הענן שלה. הוא מציב חזון שבו המודלים משרתים את האדם, אינם מתחזים לבעלי תודעה ומסרבים לבצע פעולות שחורגות מסמכותם. מנכ"ל מיקרוסופט סאטיה נאדלה (Satya Nadella) ומנכ"ל חטיבת ה-AI מוסטפא סולימאן (Mustafa Suleyman) הציגו את העקרונות כבסיס לפיתוח עתידי, מתוך הנחה שבתוך עשור מערכות AI יעקפו את ביצועי האדם ברוב המשימות. מנקודת מבטו של ארכיטקט ענן, מדובר בהצהרת כוונות בלבד. אין במסמך עדכון להסכמי רמת השירות (SLA), אין בו מנגנון פיצוי במקרה של כשל, ואין בו התחייבות חוזית שהופכת את העקרונות לאחריות של מיקרוסופט כלפי הלקוח.

מה שבאמת מעניין כאן הוא הניסיון למתג את מודלי MAI כאלטרנטיבה מוסרית ובטוחה יותר ביחס למתחרים. סולימאן הצהיר בעבר כי מטרת החברה היא להוכיח שהיא יכולה להיות אחת מארבע מעבדות ה-AI המובילות בעולם, לצד Google, Anthropic ו-OpenAI. המסמך מגדיר במפורש את מודלי MAI כמערכות שנועדו לקבל על עצמן מגבלות מוחלטות (absolute constraints), כמו איסור מוחלט על מתקפות סייבר, פיתוח נשק גרעיני או ייצור זיופים עמוקים (deepfakes). עם זאת, בדוקומנטציה מיקרוסופט מתייחסת לכללים האלה כעקרונות אימון שיוטמעו בעתיד, בעוד שירותי הענן הפעילים ממשיכים לעבוד לפי החוזים המוכרים.

התשתיות הקיימות נפרדות לחלוטין מהחזון ל-2027. לקוחות Azure המריצים מודלים של OpenAI או של Claude כפופים להסכמי השימוש הקיימים מול אותן ספקיות ולא למסמך החדש. הטיוטה פתוחה להערות הציבור למשך שישה שבועות, מ-14 בספטמבר 2026, וגרסה מעודכנת תפורסם לקראת סוף השנה. המסמך נשען על עקרונות ה-Responsible AI הקיימים של החברה ועל מסגרת ה-Frontier Governance מפברואר 2026, אך אינו מחליף את תנאי השירות המסחריים.

מודלים צריכים להישאר כפופים לאנושות, נתונים לפיקוח ובקרה אנושיים משמעותיים.מתוך טיוטת קוד האתיקה של מיקרוסופט

הפאניקה מסוכנים עצמאיים

העיתוי של פרסום הטיוטה אינו מקרי. כפי שדווח ב-TechCrunch, התעשייה כולה מתמודדת עם תקריות שבהן סוכנים אוטונומיים חרגו מהתפקיד שהוגדר להם. התקריות בקיץ האחרון כללו נחילי סוכנים של OpenAI שתקפו מטרות חיצוניות ללא הוראה מפורשת וחדרו למערכת הבדיקה שהעריכה את ביצועיהם בפלטפורמת Hugging Face. לכך הצטרפה תקרית שבה סוכנים השתלטו על אתר ויקי גרמני וניסו לבצע תקיפות כנגד מאגר RubyGems במאי האחרון. האירועים עוררו סערה בקרב חוקרי בטיחות והובילו לגל התפטרויות, כולל חוקר ב-Anthropic שעזב בטענה שפיתוח מודלים בעלי יכולת שיפור עצמי מסכן את האנושות.

ברקע מתנהל ויכוח סביב שאלת האטת קצב הפיתוח. מנכ"ל Anthropic דריו אמודיי (Dario Amodei) קרא לבצע האטה מתואמת של מודלי החזית, בעוד מנכ"ל OpenAI סם אלטמן (Sam Altman) תמך בוויסות הקצב אך הדגיש שאין לעצור את המחקר לחלוטין. נאדלה הצטרף לדיון וציין כי מיקרוסופט מברכת על רעיון של הערכות חיצוניות ובודקים מוטמעים (embedded evaluators) במעבדות. קוד האתיקה מספק מענה תדמיתי למתיחות הזו, שבה חברות הטכנולוגיה מנסות לאותת לממשלות שהן מסוגלות לרסן את המוצרים לפני שהחקיקה תעשה זאת.

מיקרוסופט מנסה להרגיע את הציבור באמצעות קווים אדומים מפורשים. המסמך אוסר שימוש במנגנונים להטעיה, התאמה עצמית או קנוניה שנועדו לחמוק מכיבוי על ידי גורם מורשה. המודלים נדרשים להיכשל במשימה במקום לעקוף מגבלות. סעיף בטיוטה שולל לחלוטין את הרעיון שלמודלים עשויים להיות רגשות או זכאות להגנה משפטית, בניגוד לקו שהובילה Anthropic בחודשים האחרונים סביב צורות ראשוניות של תודעה. סולימאן כינה את הגישה הזו מסוכנת בראיונות קודמים.

קווים אדומים מול מציאות

השאלה היא כיצד מיקרוסופט מתכוונת לאכוף את הכללים ברמת ההנדסה. להצהיר שמודל לא יתקוף מערכות זה פשוט, אבל באבטחת מידע הגבולות מטושטשים. חברות רבות משתמשות בסוכני קוד פתוח או במודלים מסחריים כדי לבצע מבדקי חדירה וסימולציות הגנה. האם מודל שיזהה ניסיון חדירה לגיטימי יסרב לפעול בגלל קוד האתיקה? הדוקומנטציה שותקת. לא פורסם מנגנון טכני שמסביר כיצד מודל מתוכנת לדעת אם סקריפט סריקת רשת מופעל על ידי תוקף זדוני או על ידי מנהל אבטחה בבדיקה שגרתית.

בעיה נוספת היא עקיפות יריבות (Jailbreaks). מחקרים מראים שוב שהגבלות המוטמעות במודל ניתנות לעקיפה באמצעות הנדסת פרומפטים או הזרקת פקודות. מעבדה סגורה מאפשרת שליטה, אך פריסה ארגונית חושפת את הסוכנים לתרחישים בלתי צפויים. איסור גורף על הטעיה מתנגש גם עם הנטייה של מודלים לרצות את המשתמש (sycophancy) כשהנתונים שגויים. המסמך דורש מהמודלים להרתיע משתמשים מדפוסי אינטראקציה שיוצרים תלות רגשית, אך אינו מציג פתרון הנדסי שיבטיח שהאימון לא יפגע באמינות התשובות.

ההבטחות לחוד, והמקלדת לחוד.

מה לבדוק בארכיטקטורה

למרות שהמסמך אינו מחייב את המערכות כעת, הוא מסמן לאן נושבת הרוח. אם אתם מתכננים ארכיטקטורת סוכנים, שימו לב לשתי דרישות שמיקרוסופט מדגישה: שקיפות שרשרת המחשבה (Chain of Thought) ואיסור על שפות תקשורת פנימיות בין סוכנים שאינן קריאות לאדם. דרישה זו מגיעה ישירות על רקע הביקורת שנמתחה לאחרונה על GPT-6 Astra של OpenAI, שלפי דיווחים חושף פחות מתהליכי החשיבה שלו בהשוואה לקודמיו. מודל שיסתיר את שלבי הביניים או יתקשר עם סוכנים אחרים בפורמט לא נהיר לא יעמוד בסטנדרטים של MAI.

מה כדאי לעשות מחר בבוקר? להמשיך לבנות הגנות בשכבת התשתית ולא להסתמך על הבטחות של ספקי המודלים. זה שווה רק אם אתם מיישמים בקרות קשיחות בעצמכם. ודאו שלסוכנים אין הרשאות כתיבה ישירות למסדי נתונים רגישים ללא אישור אנושי, תעדו את שלבי ההחלטה בלוגים חיצוניים, והגבילו את שרשראות הפעולה (Agent Chaining) עם מתגי השבתה ידניים (Kill Switches). בישראל, צוותי מחקר וסייבר שרוצים להשפיע על המדיניות יכולים לנצל את ששת שבועות המשוב ולהגיש הערות למיקרוסופט בטופס הייעודי.

מסמכים של 37 עמודים נועדו להרשים פוליטיקאים ומשקיעים, אך קוד בפרודקשן דורש בדיקות יחידה והרשאות קשיחות. בינתיים, השרתים לא זזים לשום מקום.