OpenAI אנת'רופיק וגוגל מתאמות האטה מול ממשל טראמפ

אם בניתם את מפת הדרכים הטכנולוגית שלכם לשנה הקרובה על ההנחה שקצב שחרור המודלים רק ילך ויאיץ, כדאי שתחשבו מסלול מחדש. החברות שמפתחות את מודלי השפה החזקים בעולם החליטו פתאום לעצור, להסתכל לצדדים, ולדבר זו עם זו. TechCrunch מדווח היום ששלוש השחקניות הראשיות בשוק מנהלות מגעים ישירים שנועדו להסדיר בדיקות בטיחות מחמירות ולהאט במשותף את פריסת הדור הבא של המערכות המתקדמות.

תיאום הדוק בין יריבות

כריס ליהיין (Chris Lehane), ראש תחום המדיניות הגלובלית ב-OpenAI, אמר היום לכתבים בוושינגטון כי החברה מנהלת שיחות שנמשכות כבר כמה שבועות עם Anthropic ועם Google DeepMind. כפי שדווח לראשונה ב-Bloomberg Law, השיחות בין החברות עוסקות בנושאי בטיחות AI. במקביל, דיווח השבוע The Information ששלוש החברות פועלות יחד להקמת גוף תקינה לתעשיית ה-AI.

השיחות הללו נולדו בעקבות מנשר שפרסם ביום שבת דריו אמודיי (Dario Amodei), מנכ"ל Anthropic, שבו קרא למתחרות בתעשייה לעבוד יחד כדי לווסת את קצב הפיתוח ולהימנע מסיכונים קטסטרופליים. סם אלטמן (Sam Altman) מ-OpenAI, דמיס חסביס (Demis Hassabis) מ-Google DeepMind ואילון מאסק תמכו פומבית בקריאה זו. אלטמן הודיע כי יצרף מעריכים חיצוניים לבדיקות בטיחות בחברה. חסביס עצמו קרא עוד ביולי לממשל האמריקאי להקים גוף תקינה חדש שישמש כלב שמירה, עם סמכות לסנן מודלים מתקדמים ולתאם האטה תעשייתית אם הסכנות יחריפו.

עדיף לנסות לעבוד יחד כדי לתת עדיפות לבטיחות.כריס ליהיין, ראש תחום מדיניות גלובלית ב-OpenAI

התנגשות חזיתית בבית הלבן

בזמן שהענקיות סוגרות ביניהן מנגנוני בלימה עצמיים, בוושינגטון נושבת רוח הפוכה לגמרי. הנשיא דונלד טראמפ דחה בימים האחרונים את החששות מבטיחות ה-AI וכינה אותם מתיחה. מבחינת הממשל האמריקאי, כל האטה מערבית נתפסת כסכנה ממשית שתעניק לסין יתרון במרוץ הטכנולוגי הגלובלי, והנשיא אף התבטא בחריפות נגד פגיעה בתשתיות ובחוות השרתים הנדרשות לפיתוח.

יועץ ה-AI של טראמפ, דיוויד סאקס (David Sacks), הצטרף לקו הזה וטען שהפחדים מסיכונים קיומיים מנופחים. לפי ליהיין, OpenAI תומכת בסעיף שיחייב מעבדות קצה מובילות לאפשר לארגוני אימות עצמאיים להיכנס לחברות כדי לוודא שמודלים מפותחים באופן בטוח.

תקופות המתנה במקום השקות

ההבנות הללו משנות את המציאות עבור כל צוות פיתוח שמחכה לגרסאות הבאות.

עבור מפתחים ומנהלי מוצר, המשמעות של המהלך הזה עשויה להיות מעבר מהשקות מהירות לבדיקות חיצוניות ממושכות. בראיון שהעניק סם אלטמן למגזין Fortune, הוא אמר שאין לו בעיה להתייצב מול המשקיעים שלו אם יצטרך לעצור או להשהות את הפיתוח לחלוטין. לפי אלטמן, תקני הבטיחות כיום אינם במקום שמאפשר לדחוף את יכולות המודלים רחוק יותר, וההנפקה של OpenAI לא תתרחש לפני 2027. הוא הוסיף כי מודלים שמעבר לשליטה אנושית הם בהחלט אפשריים.

במקום מרוץ חימוש שבו כל גרסה חדשה נדחפת מייד לפרודקשן כדי לחטוף נתח שוק מהמתחרה, הלקוחות הארגוניים עשויים להמתין לאישורי תקינה חיצוניים, אם כי לא פורסם לוח זמנים מחייב. אלטמן כבר דיבר בשיחות פנימיות על כך שהקמת גוף תקינה כזה תצטרך לקרות ללא תמיכת ממשלת ארצות הברית.

סכנת הקרטל עדיין באוויר

החברות מתואמות, אבל החוק עשוי להתערב.

תיאום קצב שיווק ובדיקות בין מתחרות ישירות מעלה שאלות משפטיות כבדות סביב חוקי הגבלים עסקיים. אמודיי הציע במאמרו כי הממשל יעניק פטור צר מחוקי התחרות לצורך תיאום בטיחותי כזה, אך ליהיין טען מצידו כי החברות כלל אינן זקוקות לפטור כדי לשתף פעולה בנושאי בטיחות. אם משרד המשפטים האמריקאי יחליט לראות בברית הזאת קרטל שנועד לפגוע בתחרות ולחסום כניסת שחקנים חדשים, היוזמה עשויה להיבלם בבתי המשפט.

בנוסף, הברית הנוכחית אינה כוללת שחקניות בולטות כמו Meta או xAI. אם מודלי הקוד הפתוח ימשיכו לצאת ללא תקופות צינון רגולטוריות וללא מעריכים עצמאיים בשרתים, הלחץ התחרותי עלול לפרק במהירות את ההסכמות השקטות בין OpenAI, גוגל ואנת'רופיק.

מה לבדוק בארכיטקטורה שלכם

בישראל, שבה חברות סטארט-אפ רבות מבססות את ליבת המוצר שלהן על מודלים סגורים, ההתפתחויות הללו מחייבות היערכות מיידית. לא הייתי ממהר לבנות על קפיצות מדרגה ביכולות המודלים במהלך הרבעונים הקרובים, משום שחלון ההשקות מתרחק. צוותי פיתוח חייבים לייצר ארכיטקטורה גמישה שמאפשרת החלפה מהירה בין ספקיות שונות באמצעות שכבות הפשטה.

זה שווה משהו רק אם אתם לא כבולים לספק יחיד.

אם תהליכי בטיחות חיצוניים יעכבו את גרסאות ה-API של ענקיות הטכנולוגיה, הפתרון עשוי להגיע דווקא מכיוון מודלי קוד פתוח עצמאיים. כדאי לבחון חלופות מקומיות שלא תלויות בהסכמי הבטיחות של השלישייה המובילה.

בינתיים, הכפתור עדיין אפור.