ai-town
רץ בדפדפןradamesרישיון לא דווח2024-05-07
היישום מציג עיירה וירטואלית שבה דמויות בינה מלאכותית חיות ומשוחחות זו עם זו בזמן אמת. הוא מיועד למפתחים שרוצים לראות סימולציית סוכנים עצמאיים ולשלוח להם הודעות ישירות מהדפדפן.
- —הורדות בחודש
- 144לייקים
מה זה
הפרויקט מריץ עיירה וירטואלית שבה דמויות מונעות מודלי שפה מסתובבות, מתקשרות ומנהלות שיחות עצמאיות במרחב משותף. אתם לא צריכים להזין קבצים או להגדיר תרחישים מורכבים כדי לצפות בהתרחשות, אלא פשוט פותחים את הממשק, צופים באינטראקציות השוטפות שנוצרות בין התושבים, ויכולים לשלוח להם הודעות טקסט כדי להתערב בשיחה.
מאחורי הקלעים רץ מימוש של פרויקט AI Town מבית a16z, שארז radames בתוך קונטיינר Docker יחיד שמתאים לסביבת Hugging Face Spaces. הקונטיינר מריץ יחד את צד הלקוח, שרת ייעודי וצד שרת בקוד פתוח של Convex. הדמויות פועלות באמצעות מודל שפה ומודל שיקוע שמייצרים את השיחות, התגובות וההקשר של כל דמות בעיירה לפי הגדרות בקוד.
מתאים ל
- בחינת סוכני שיחה
צפייה באינטראקציות חיות ודינמיות בין סוכנים אוטונומיים בתוך סביבה מרובת משתתפים.
- התערבות בסימולציה
שליחת הודעות טקסט ישירות לדמויות בעיירה כדי לבדוק את התגובות וההיגיון שלהן בזמן אמת.
- למידת ארכיטקטורה
בדיקת דוגמה של הפעלת צד לקוח, שרת ו־Convex בקונטיינר Docker אחד.
איפה זה נופל
זהו מרחב הדגמה סגור ולא כלי עבודה גמיש. אי אפשר לערוך דמויות חדשות, לשנות את מפת העיירה או להחליף מודלים ישירות דרך ממשק המשתמש בדפדפן, אלא רק על ידי עריכת קובצי הקוד בקונטיינר או שכפול המרחב.
בנוסף, הריצה מתבצעת על מעבד ללא מאיץ גרפי ייעודי, כך שהעומס על השרת המשותף עלול לגרום להשהיות בתגובות הדמויות. לא מומלץ לבנות על הממשק הזה כבסיס ישיר למערכת מרובת סוכנים מבלי להתאים אישית את הגדרות הזיכרון והקריאות למודלים.
שאלות
נפוצות
האם השימוש בעמוד פתוח בחינם?
כן, הצפייה בעיירה והאינטראקציה הבסיסית עם הדמויות דרך הדפדפן אינן דורשות תשלום או מפתח אישי. עלויות עשויות לחול רק אם משכפלים את המרחב לחשבון פרטי ובוחרים להריץ אותו על חומרה בתשלום או עם מודלים חיצוניים הדורשים תקציב.
האם אפשר להריץ את העיירה מקומית במחשב?
בהחלט, הקוד כולל Dockerfile שמאפשר לבנות תמונה ולהריץ את כל המערכת על המחשב עם פקודת הרצה פשוטה. התהליך דורש מפתח גישה של Hugging Face שמועבר כמשתנה סביבה כדי שהמודלים יוכלו לייצר טקסט ושיקועים.
איך אפשר לשנות את הדמויות או את מודל השפה?
שינויים כאלה אינם זמינים דרך כפתורים בממשק הגרפי. יש לשכפל את המרחב או להוריד את הקוד, ואז לערוך ידנית את הקבצים שמגדירים את הדמויות, ההגדרות הכלליות ואת חיבורי המודלים.
האם המידע והשיחות נשמרים איפשהו?
הנתונים מנוהלים בזמן אמת על ידי שרת Convex שרץ בתוך הקונטיינר של היישום. מכיוון שמדובר בהדגמה ציבורית, כל הודעה שנשלחת גלויה לכל מי שצופה בעמוד באותו זמן ואינה מיועדת למידע רגיש.
איך משתמשים
נכנסים לדף היישום בדפדפן ורואים את הסימולציה רצה מיד, ללא צורך בהתחברות או בהזנת מפתח אישי לצפייה. כדי לדבר עם דמות מסוימת לוחצים עליה ושולחים הודעת טקסט דרך הממשק. היישום רץ על תשתית שרת עם מעבד משודרג, מה שמספק פעולה רציפה לסימולציה, אם כי תגובות מודל השפה תלויות בקריאות הרשת שהוא מבצע.
מי שרוצה להריץ עותק משלו יכול לשכפל את המרחב, להגדיר מפתח גישה של Hugging Face בהגדרות, או לבנות את תמונת ה־Docker מקומית ולהריץ אותה במחשב דרך שורת הפקודה עם הפורט המתאים.
הרישיון
הרישיון של המרחב הנוכחי לא דווח כלל במאגר. המשמעות היא שאין הרשאה ברורה לגבי שימוש חוזר בקוד או שימוש מסחרי בו, למרות שרכיבי הפרויקט המקוריים נשענים על קוד פתוח.