איחוד הלשוניות של ChatGPT עלול לתקוע את המפתחים

עוד יום, עוד ממשק שמשתנה רגע לפני שאתם מספיקים להתרגל אליו. אפליקציית הדסקטופ של ChatGPT הפכה למבוך מבלבל של מסכים: צ'אט רגיל, אזור Codex לפיתוח, ובתוך הצ'אט עצמו לשוניות נפרדות של שיחה ומשימות עבודה (Work). עכשיו OpenAI מנקה שולחן, אבל כרגיל, השינוי הקוסמטי הזה מסתיר מאחוריו מלכודת תקציב קטנה שיכולה להשבית לכם את קוד הבוקר.

השינוי הזה לא מגיע בהפתעה מוחלטת למי שעוקב אחרי הממשקים, אבל הביצוע בעייתי. לפי דיווח שפורסם היום ב-TechCrunch, החברה הודיעה במייל למשתמשים על איחוד לשוניות ה-Chat וה-Work בתוך הממשק. המטרה הרשמית היא לצמצם את העומס ולאפשר מעבר מהיר מרעיון לביצוע באותו חלון שיחה, בלי לתהות באיזו לשונית השארתם את הקובץ או הקישור.

זה נשמע נוח. זה בעיקר מבלבל את התקציב.

סוכן אחד, מכסה אחת

השינוי המבני מאפשר להאציל משימות כבדות ישירות מתוך זרם ההודעות הרגיל. במקום לעבור ללשונית נפרדת כדי לבקש ניתוח מסמכים או בניית אתר, הכל קורה ברצף אחד, כולל חיבור תוספים וקבצים חיצוניים. לפי החברה, המשתמש כותב פרומפט ראשוני, מצרף קבצים, והמודל ממשיך משם ומריץ משימות מורכבות יותר, כמו הפקת מצגות שלמות או פעולות ברחבי הרשת.

זה יאפשר לכם לעבור מחיפוש רעיון להובלתו על ידי ChatGPT, הכל במקום אחד. תוכלו להביא את הקבצים והתוספים שלכם ולבקש מ-ChatGPT לבנות אתר, ליצור מצגת או לבצע עבורכם דברים ברשת, תוך שאתם בודקים ומנחים את עבודתו. Codex יישאר חוויה נפרדת באפליקציית הדסקטופ של ChatGPT.מתוך מייל של OpenAI למשתמשים

אבל בעוד שלשונית Codex נשארת נפרדת בעיצוב של האפליקציה, מאחורי הקלעים המחיצה נעלמת. משימות אוטונומיות של סוכנים ומשימות קבצים כבדות כבר לא רצות בסביבה מבודדת ממכסות הפיתוח שלכם. מה שבאמת מעניין כאן הוא איך נוחות שימוש לכאורה באה ישירות על חשבון המשאבים של מי שכותב קוד. אם אתם משלמים על מנוי Pro או Business, אתם מקבלים פחות הפרדה ויותר סיכוי לחסימה.

המחיר הנסתר של המאגר המשותף

העוקץ מופיע באותיות הקטנות של ההודעה: ChatGPT ו-Codex ימשכו מעתה טוקנים מאותו מאגר מגבלות משותף (allowance pool). מפתחים שמריצים שאילתות קוד ב-Codex ובמקביל מבקשים מהצ'אט לעבד קבצים ארוכים יגלו שהמאגר שלהם מתרוקן בקצב כפול. אם בעבר אפשר היה להריץ בדיקות קוד בלי לחשוש שמשימת רקע שורפת לכם את המכסה, הסדר הזה נגמר.

איחוד המכסות הופך משימת מחקר אוטונומית אחת לפקק שיכול לעצור לכם את הפיתוח ב-Codex באמצע יום עבודה. המערכת אינה כוללת כרגע מנגנון להגדרת מכסה ייעודית לקוד בלבד, כך שאין דרך לשריין חלק קבוע מהתקציב לכתיבת תוכנה ולהבטיח שלא תיתקעו. לא הייתי ממהר להעביר פרויקטים קריטיים לממשק הזה בלי לוודא שיש לכם תוכנית גיבוי לעבודה שוטפת.

זה שווה רק אם אתם כמעט לא נוגעים בקוד.

בלי נתונים, בלי הבטחות

ב-OpenAI מיהרו להרגיע בהודעה כי השינוי לא ישפיע על רוב המשתמשים, אך מיד סייגו והודו שבהתאם לדפוס השימוש ולמודל שנבחר, חלק מהאנשים ייאלצו להמתין לאיפוס המכסות לעיתים קרובות יותר. החברה לא סיפקה נתוני טלמטריה שמסבירים מי בדיוק ייפגע או מהו קצב שריפת הטוקנים בפועל. מבחינתם מדובר בשיפור חוויה, אבל עבור מי שתלוי במכסה הזאת מדי שעה, ההצהרה הזו נשמעת יותר כמו הכנה להגבלות מחמירות.

הצעד הזה לא מגיע בחלל ריק. המתחרה Anthropic כבר איחדה בספטמבר האחרון את ממשק השיחה של Claude עם יכולות ה-Cowork לתוך מסך אחד, לפי דיווח ב-TechCrunch. שתי החברות מנסות לפשט את הממשק למשתמשים כלליים, גם אם זה בא על חשבון גמישות העבודה של מפתחים מקצועיים. ההבדל הוא שבמקרה של OpenAI, החיבור עם כלי הפיתוח יוצר צוואר בקבוק חדש לחלוטין.

עבור צוותי פיתוח וסטארטאפים בישראל שעובדים בצורה אינטנסיבית עם Codex, מדובר בשינוי שדורש תשומת לב מידית. לא ידוע אם הממשק האחוד יביא איתו שיפורים בכיווניות או בתמיכה בעברית, ואין לכך שום אזכור רשמי. מול הסיכון של השבתת עבודת הפיתוח, השאלות על הממשק בעברית נשארות כרגע פתוחות לחלוטין.

איך לא להיתקע בעבודה

העדכון מתחיל כרגע כהשקה הדרגתית לקבוצת בדיקה קטנה לצורך קבלת משוב לפני הפצה נרחבת, כך שיש לכם מעט זמן להיערך. אם אתם מנהלים צוות שמסתמך על Codex לפיתוח שוטף, כדאי להגדיר מראש הפרדת משימות: אל תתנו למתכנתים להריץ משימות סוכן כבדות כמו ניתוח קבצי ענק או סריקת רשת מתוך אותו חשבון שמשמש לכתיבת קוד קריטי.

במקרים שבהם העבודה השוטפת תובענית במיוחד, הפתרון היעיל ביותר עשוי להיות החזקת חשבונות נפרדים למחקר ולפיתוח, או מעבר לכלי ייעודי אחר. בינתיים, שימו עין על קצב שריפת המכסה שלכם, לפני שהודעת האיפוס תפתיע אתכם שעה לפני הדדליין. בינתיים, הכפתור עדיין אפור.