ai-world
רץ בדפדפןVIDraftרישיון לא דווח2026-08-30
האפליקציה בוחנת אם סוכני בינה מלאכותית מגלים ידע בעצמם או מדקלמים היסטוריה אנושית שהם שיננו באימון. היא מיועדת לחוקרים שמפתחים סימולציות מרובות סוכנים ורוצים לבדוק התנהגות מול קבוצת ביקורת.
- —הורדות בחודש
- 46לייקים
מה זה
מדובר בסביבת בדיקה מבוססת סימולציה שמעמידה סוכנים מעל פלנטה דמיונית עם חוקי פיזיקה, כבידה, אקולוגיה ורעילות שאינם תואמים לכדור הארץ ושמותיהם אינם ארציים. החוקרים מריצים משימות קבועות מול מודלי שפה תחת כמה תנאים שונים, שנעים בין ידע מוקדם שנגיש במלואו, דרך שלילת הידע המוקדם, ועד הזנת ידע מטעה בכוונה. התוצאה המתקבלת היא השוואה סטטיסטית של ביצועי הגילוי של הסוכנים על פני מאות הרצות מתואמות בזרעים שונים.
הטכניקה המרכזית בודקת אם שלילת הידע הקודם מפילה את ביצועי החקירה. לפי הנתונים שנבדקו על שתי משפחות מודלים ועל פני שש מאות הרצות, חסימת הידע הקודם אכן גורמת לקריסה כמעט מוחלטת בכושר הגילוי, מה שמעיד על שליפה מהזיכרון ולא על הסקת מסקנות עצמאית. עם זאת, המפתחים מסתירים את אופן יצירת העולם, צינור השיפוט והבניית התנאים עקב הליכי רישום פטנט.
מתאים ל
- בדיקת התנהגות סוכנים
בחינה אם סוכני בינה מלאכותית מגיעים לפתרונות הודות להסקה לוגית עצמאית או רק משחזרים מידע קיים מאימוני עבר.
- מחקר על הטיות במודלים
מדידה של השפעת ידע קודם שגוי על יכולת פתרון בעיות של מודלי שפה שונים בתוך עולם סגור ומבוקר.
- סימולציה של חברות סוכנים
צפייה באינטראקציות חברתיות ואקולוגיות בתוך פלנטה פיקטיבית עם חוקי טבע יציבים שאינם קשורים לכדור הארץ.
איפה זה נופל
המחקר מבוסס על שתי משפחות מודלים בלבד, פרומפט בודד וטופולוגיית משימה אחת, ולכן אי אפשר להסיק ממנו מסקנות גורפות על כלל מודלי השפה. בנוסף, המפתחים מציינים במפורש שעולם התצוגה הציבורי שמוצג למשתמש שונה מההגדרות של הרצות הניסוי בפועל. החלקים החשובים ביותר לבדיקה עצמאית, כולל מנגנון בניית התנאים ויצירת העולם, אינם גלויים בקוד משום שהם מעוכבים לרישום פטנט, מה שמונע אימות חיצוני של שיטת השיפוט.
שאלות
נפוצות
האם השימוש באפליקציה כרוך בתשלום?
הגישה לעמוד בדפדפן פתוחה ללא תשלום וללא צורך ברישום מנוי. מדובר בהדגמה ציבורית שמציגה את ממצאי הפרויקט ואת סביבת הבדיקה. אין דרישה להכניס אמצעי תשלום כדי להביט בממצאים או להפעיל את התצוגה.
כמה זמן לוקח להריץ את הבדיקות במערכת?
ההדגמה שמוצגת בעמוד זמינה באופן מיידי על גבי מעבד בסיסי. לעומת זאת, שחזור של הניסוי המלא כולל מאות הרצות וחישובים מורכבים שלא מתבצעים ברגע בתוך הדפדפן. זמני הריצה עבור המחקר המקורי דרשו תהליכים ממושכים שנבחנו מראש.
האם אפשר להוריד ולהריץ את הקוד באופן מקומי?
האפליקציה ארוזה במכולת דוקר, אך רכיבי הליבה של יצירת העולם ותנאי הניסוי חסויים כרגע בגלל פטנטים. בנוסף, לא פורסם רישיון שימוש פתוח שמתיר הפצה או הרצה חופשית על המחשב שלכם. לכן אי אפשר לשחזר את הניסוי המלא באופן עצמאי.
מה קורה עם הנתונים או הקבצים שלי?
הסביבה אינה דורשת העלאת קבצים פרטיים או מסמכים שלכם לצורך הפעלתה. אתם צופים בהדמיה ובממצאי הניסוי כפי שפורסמו על ידי צוות הפיתוח. אין כאן שמירה של מידע אישי או קבצים שנשלחים מטעמכם.
איך משתמשים
הסביבה רצה בתוך מכולת דוקר על גבי תשתית מעבד בסיסית, כך שלא מדובר בהאצת חומרה גרפית חזקה וכל פעולה חישובית כבדה עלולה להתעכב. בפועל אתם ניגשים דרך הדפדפן לעולם התצוגה הציבורי שהועלה לשרת, ללא צורך בהתקנה מוקדמת או בהזנת פרטי התחברות. מאחר שההרצות הניסוייות המלאות כללו מאות זרעים ועשרות אלפי דגימות מחדש, הניסוי המלא כולו לא מבוצע בלחיצת כפתור בדפדפן, אלא אתם צופים בהדגמה מוגדרת מראש שרצה במקביל למחקר הכתוב.
הרישיון
הרישיון של המאגר מוגדר כלא דווח. המשמעות היא שאין הרשאה מפורשת להשתמש בקוד, להעתיק אותו לפרויקטים מסחריים או להסתמך עליו מחוץ לצפייה ישירה. בנוסף, המפתחים ציינו כי חלקים מרכזיים מהפיתוח נמצאים בהליכי רישום פטנט, מה שמגביל עוד יותר שימוש חופשי.