ChatGPT Is a Bullshit Generator Waging Class War

הסקירה

מודל השפה של OpenAI חוזה את המילה הבאה במשפט על בסיס חישובים סטטיסטיים של כמויות מלל עצומות מהרשת. הוא לא יודע על מה הוא מדבר כי אין לו שום מושג על שום דבר. אם התוצאה נשמעת לכם הגיונית, המודל פשוט הצליח לנחש מחרוזת שעוברת את מנגנון הסינון שלכם. המערכת מייצרת טענות חסרות בסיס בביטחון מוחלט, פשוט כי כך בנו אותה. מודלים מסוג Transformer לומדים מיליארדי פרמטרים, אבל בפועל מדובר במשחק ניחושים חישובי בלבד.

ההתלהבות של אנשי אקדמיה ועיתונאים מייצרת יחסי ציבור חינמיים לחברה. אנשים מניחים שהכלי שואב מידע ממקורות אמינים, בדומה למה שהתרגלו ממוצרים קודמים. זה לא עובד על קסמים. ChatGPT שואב אך ורק את מה שבלע בזמן האימון שלו, ולא יכול אפילו לצטט את מקורותיו.

ניחושים שמחליפים עבודה אנושית

המודל פולט מאמרים שנראים סבירים וקוד מחשב שלכאורה עובד, ובדיוק בגלל זה ההזיות שלו הופכות מסוכנות יותר כי קשה לאתר אותן. ChatGPT הוא מחולל שטויות במסווה של סמכותיות מדעית. ההצלחה שלו לגרום לאנשים לתת בו אמון היא בעיה רצינית, כי הישענות על למידת מכונה כבר מובילה לפגיעה באנשים אמיתיים מול רשויות המדינה. בנוסף לכך, המודל מתקשה בחישובים פשוטים כמו הכפלה של 23 ב־18 לעומת 24 ב־18, כיוון שהוא מסתמך על תדירות הופעה של צמדי מילים בנתונים ולא על הבנה מתמטית.

מה שבאמת מפריע כאן הוא שמשתמשים מקבלים מידע שגוי באריזה חלקה.

כדי למנוע מהמערכת לפלוט גילויי שנאה, קונספירציות ותכנים פוגעניים, OpenAI משתמשת בלמידה עם חיזוקים ממשוב אנושי, תהליך שמכונה RLHF. הפיקוח הזה לא משנה את העובדה שדפוסי השפה הבסיסיים נלמדו מהרשת הפתוחה. לא הייתי משתמש בזה למחקר עובדתי שדורש מקורות מהימנים או הסקת מסקנות אמיתית. נדרש רק מעט מאמץ בניסוח השאלות כדי לחשוף את ההטיות שמסתתרות מתחת. שמירה על התוכן דורשת עובדי מיקור חוץ בקניה שמקבלים 2 דולר לשעה כדי לסמן תכנים אלימים.

כמה זה עולה לקרוא

אם אתם רוצים לקרוא את המאמר המלא באתר VICE, תצטרכו לשלם על מנוי דיגיטלי. המסלול הבסיסי עולה 2.00 דולר לחודש ומסיר את כל הפרסומות באתר, לצד גישה לסרטים דוקומנטריים ומאמרים בלעדיים. אם אתם מוכנים להתחייב לשנה מראש, המסלול השנתי עולה 20.00 דולר לשנה ומציע את אותן הטבות. רוב הקוראים שרוצים רק גישה לתכנים יסתפקו באחת משתי האפשרויות האלו. יש גם מסלול משולב שכולל עיתון מודפס שנשלח ארבע פעמים בשנה לבית, ומחירו מגיע ל־70.00 דולר לשנה.

התוכן מוצע באנגלית בלבד. אין באתר התייחסות לעברית או לקהל מקומי.

• מסלול חודשי2.00 דולר לחודש
• מסלול שנתי20.00 דולר לשנה
• עיתון מודפס70.00 דולר לשנה

ההשקעות של מיליארדי דולרים בטכנולוגיה הזו, כולל 10 מיליארד דולר מצד Microsoft, לא נועדו להקל על עומס העבודה של עובדים אלא להחליף אותם. מוסדות וחברות משקיעים במערכות האלו לא כי הן מפגינות תבונה אמיתית, אלא כי הן מספיק טובות כדי לפגוע במעמד העובדים וביציבות שלהם. במקום לצמצם מטלות, ארגונים ישתמשו בכלים האלה כדי לקצץ בכוח אדם. המכשיר שורף אנרגיה בקצב מבהיל, בעוד התועלת החברתית שלו נשארת ספקולטיבית לעומת הנזקים שכבר מוכחים בשטח.

המערכת הזו פשוט אינה מתאימה למי שמחפש דיוק.

ChatGPT הוא, במונחים טכניים, מחולל שטויות.

VICE