אנתרופיק הכניסה מפקחים למשרד אבל השאירה את הבלמים אצלה
שילוב חוקרי METR בתוך החברה עם חופש פרסום מייצר שקיפות נדירה, אך בלי סמכות לעצור מודלים מסוכנים האחריות נשארת אצל מי שמפתח על Claude.
- השתמשו בדוחות העתידיים של METR כמסמכי תאימות ללקוחות אנטרפרייז, אך שמרו על בקרות אבטחה קפדניות בקוד שלכם מכיוון שלבודקים אין סמכות לעצור השקות מסוכנות.
אם בניתם את המוצר שלכם על Claude, סביר להניח שלקוחות האנטרפרייז שלכם כבר דרשו מסמך שמוכיח שהמודל לא יעשה שטויות במסד הנתונים שלהם. עכשיו אנתרופיק מנסה לספק מענה לרגולטורים, או לפחות להראות שהיא משתדלת. לפי דיווח ב-Ars Technica, החברה הכניסה שישה חוקרים מארגון הבטיחות העצמאי METR ישירות למשרדים שלה, חילקה להם לפטופים ונתנה להם גישה פנימית למערכות הליבה. זה צעד חריג, אבל כדאי לקרוא את האותיות הקטנות לפני שמנופפים בזה מול לקוחות.
לא הייתי ממהר לבנות על זה כתעודת ביטוח.
כרטיס עובד בלי זכות וטו
ההסדר החדש מעניק לשישה עובדים של METR הרשאות פנימיות זהות לאלו של צוותי הערכת הסיכונים בתוך אנתרופיק. הם מקבלים חומרה של החברה, יושבים פיזית במשרדים שלה ומורשים לחקור את הכלים הפנימיים. נקודת החוזק המרכזית במודל הזה היא הכסף: אנתרופיק לא משלמת ל-METR דולר אחד על העבודה הזו. הארגון מתקיים מתרומות פילנתרופיות וממימון ממשלתי, כולל מכון בטיחות ה-AI הבריטי, ואינו מקבל תרומות מחברות טכנולוגיה או מעובדיהן. בנוסף, לאנתרופיק אין זכות וטו על פרסום הממצאים, והחוקרים רשאים לפרסם את הדוחות שלהם לציבור בלי לבקש אישור מראש.
אבל כאן בדיוק נגמרת השליטה שלהם. לחוקרים של METR אין שום סמכות משפטית או טכנית לבלום הפצה של מודל חדש, להקפיא API או לכפות תיקון בקוד. המפקחים החיצוניים יכולים להתריע בקול רם, אבל השאלטר של Claude נשאר בלעדית בידי ההנהלה של אנתרופיק. אם החוקרים יגלו התנהגות בעייתית רגע לפני השקה, כל מה שהם יכולים לעשות זה לשבת מול המקלדת ולכתוב דוח פומבי.
אנחנו רוצים לשאת באחריות ציבורית על ההחלטות שאנחנו מקבלים, אבל אנחנו לא יכולים לשתף באופן פומבי את כל המידע שרלוונטי לעבודת הבטיחות שלנו.אנתרופיק
סודות ארכיטקטורה מול סכנת חיים
החברה משווה את המהלך לבדיקות רגולטוריות במגזר הבנקאי, שם נציגי פיקוח יושבים בתוך הבנקים הגדולים כדי לאתר סיכונים בזמן אמת. לפי ניתוח של Business Insider, הטענה של אנתרופיק היא שחשיפה מלאה של כל נתוני הבטיחות תסייע לשחקנים זדוניים או למתחרים מסחריים. לכן, ההסכם קובע מגבלות ברורות על מה שהחוקרים רשאים לחשוף. אנתרופיק רשאית לדרוש השחרה של פרטים ספציפיים בדוחות לפני פרסומם, בתנאי שהם נופלים לשלוש קטגוריות: נתוני לקוחות, מידע המוגן בחיסיון עורך דין לקוח וסודות הנוגעים לארכיטקטורת המודלים.
ההבדל בין ההסדר הזה לרגולציה אמיתית טמון בכוח האכיפה. מפקח בנקאי ממשלתי מחזיק בסמכויות חוקיות לקנוס, לעצור פעילות ולדרוש גישה לכל מסמך ללא הגבלה. לעומת זאת, METR היא עמותת מחקר ללא שיניים סטטוטוריות. מנגנון ההגנה היחיד שניתן לה בהסכם הוא הזכות לציין בפומבי אם בוצעה השחרה במסמך, והאם לדעת החוקרים ההסתרה הזו הייתה מוצדקת. זה מייצר מנוף של שיימינג ציבורי, אבל לא מנגנון בוררות משפטי מחייב.
לחץ לקראת הנפקה בטריליונים
התזמון של המהלך הזה אינו מקרי. אנתרופיק נערכת להנפקה ראשונית לציבור (IPO) לפי שווי שוק שמוערך ביותר מ-2 טריליון דולר, וחלק נכבד ממצגות המשקיעים שהציגה עסק בבקרות הבטיחות שלה. אחרי מקרים שבהם סוכני בינה מלאכותית בתעשייה יצאו משליטה, החברה זקוקה לשקט תעשייתי כדי להרגיע גופים מוסדיים. בעוד OpenAI וגוגל טרם יישמו מנגנון של הכנסת בודקים עצמאיים למשרדים שלהן, מנכ״ל אנתרופיק דריו אמודיי (Dario Amodei) מקבע את החברה כמי שמוכנה לעמוד תחת בדיקה חיצונית.
לצד ההסכם עם METR, אנתרופיק ממשיכה לעבוד עם חברת Accenture על בדיקות בטיחות במסגרת שיתוף פעולה שלפחות מיליארד דולר הוקצו לו, ומשתפת פעולה עם SecureBio לבחינת סיכונים ביולוגיים וכימיים. החברה הציגה מודל פיקוח מדורג בן שלוש רמות, שבו METR היא היחידה שמחזיקה כרגע במעמד של רמה 3 הגבוהה ביותר. המהלך הזה מאפשר להציג חזית אחראית מול הרגולטורים בארצות הברית ובאירופה, בלי לוותר על קצב הפיתוח המסחרי.
| פרמטר בדיקה | מפקחי METR באנתרופיק | רגולטור ממשלתי מסורתי |
|---|---|---|
| סמכות לעצור שחרור מוצר | אין, החלטה בלעדית של אנתרופיק | קיימת בחוק כולל צווי מניעה |
| חופש פרסום ממצאים | עצמאי וללא זכות וטו של החברה | בכפוף לכללי פרסום ודוחות רשמיים |
| השחרת מידע מהדוח | מוגבלת ללקוחות, סודות ארכיטקטורה וחיסיון | נקבעת לפי חוקי חיסיון וביטחון |
| מקור המימון | תרומות וגופים ממשלתיים, ללא כספי החברה | תקציב המדינה או אגרות פיקוח |
| סנקציות וקנסות | אין סמכות להטיל קנסות | קיימת סמכות עיצומים כספיים ופליליים |
מה זה אומר על המערכות שלכם
עבור ארכיטקטי פיתוח ומנהלי אבטחת מידע בישראל שמשלבים את Claude בליבת המוצר, המהלך הזה מספק כלי ניטור שלא היה קיים עד כה. לאנתרופיק אין מרכז פיתוח בישראל, אבל לקוחות אנטרפרייז בינלאומיים של חברות סייבר ופינטק מקומיות דורשים הוכחות עמידה ברגולציה. הדוחות העתידיים ש-METR תפרסם יוכלו לשמש אתכם כראיה חיצונית בלתי תלויה לכך שהמודל נבדק לסיכוני השתלטות או דליפת מידע, ללא מעורבות שיווקית של היצרנית.
עם זאת, שום מסמך של METR לא ישחרר אתכם מאחריות משפטית אם המודל יזייף פקודות או יחשוף מידע במוצר שלכם. שישה חוקרים אינם מסוגלים לבדוק כל עדכון גרסה וכל תרחיש קצה, וההסכם אינו מעניק להם גישה למשקולות המודל או לקובצי האימון הגולמיים. הפיקוח הפנימי של אנתרופיק מעניק שקיפות טובה יותר, אבל בקרות הקלט, מנגנוני ה-Guardrails וההרשאות בקוד האפליקטיבי נשארים לחלוטין על הכתפיים שלכם.
החוקרים כבר קיבלו את המחשבים הניידים שלהם, אבל מבחן האמת יגיע ביום שבו הם יפרסמו ממצא חמור על מודל שעומד לצאת לשוק.
מה שואלים על זה
- Anthropic gives outside AI watchdog “employee-like” accessarstechnica.com · המקור
- Anthropic AI safety watchdogs METR Dario Amodeibusinessinsider.com · קריאה נוספת
25 עובדות בכתבה נבדקו אחת־אחת מול המקורות המקושרים ומול חיפוש ברשת ב־18 באוקטובר 2026. מה שלא אומת הוסר או מסומן כטענה של החברה. הכתיבה נעשתה בעזרת AI מהמקורות האלה בלבד, בעריכה ובאחריות של סלבה מלנדוביץ׳. טעות? כתבו לנו.