GPT
A

ai-scraper

רץ בדפדפן

JournalistsonHFרישיון לא דווח2024-05-21

  • gradio

חילוץ וסיכום מידע מאתרי אינטרנט באמצעות הוראות טקסט חופשי, בלי לכתוב קוד. הפתרון מיועד למי שרוצה לשלוף נתונים מובנים מעמודי רשת במהירות.

  • הורדות בחודש
  • 152לייקים

מה זה

אתם מזינים כתובת אתר וכותבים הנחיה ברורה לגבי המידע שתרצו לחלץ. בתמורה מקבלים פלט מובנה במבנה JSON יחד עם פרטי הביצוע הטכניים של הריצה.

מאחורי הקלעים רצה ספריית ScrapeGraphAI דרך ממשק Gradio. לפי הקוד, החילוץ נשען על מודל שפה חזק מסוג Qwen2.5-72B-Instruct או Mistral-7B-Instruct-v0.2, לצד מודל שיכוך מסוג all-MiniLM-L6-v2 לצורך עיבוד התוכן.

ברירת המחדל בעמוד מדגימה שליפת הודעות לעיתונות מאתר הבית הלבן, כולל כותרות וקישורים בלבד, ישירות לתוך קובץ נתונים נקי.

מתאים ל

  • איסוף הודעות דוברות

    חילוץ כותרות וקישורים של הודעות לעיתונות מאתרי חדשות ורשויות.

  • שליפת נתונים לקובץ

    המרת טקסט חופשי מעמודי אינטרנט למבנה JSON מסודר לעיבוד המשך.

  • סיכום עמודי תוכן

    קריאת מאמרים ארוכים ברשת והפקת תמצית ממוקדת לפי דרישה ספציפית.

איפה זה נופל

נכון לעכשיו אי אפשר להשתמש בה ישירות בדפדפן כי השרת שלה מושהה. הקוד מגביל את אורך הפלט ל־128 תווים בהגדרות החיבור, מה שעלול לחתוך תשובות ארוכות באמצע. בנוסף, אתרים מורכבים או כאלה שחוסמים גישה אוטומטית יכשילו את הגירוד ללא התראה מוקדמת.

שאלות
נפוצות

האם השימוש בעמוד כרוך בתשלום?

הפעלת הדף באתר Hugging Face היא חינמית לגמרי. עם זאת, נכון לרגע זה העמוד מושהה ולא ניתן להריץ עליו שאילתות. אם תשכפלו אותו לחשבון פרטי, תצטרכו לשאת בעלויות המשאבים שתבחרו להקצות.

מה קורה עם הנתונים והקישורים שאני מעלה?

הכתובות וההנחיות נשלחות לשרת שמריץ את הקוד ומועברות הלאה למודלים של Hugging Face. היות ומדובר בממשק ציבורי, לא כדאי להזין כתובות פנימיות שדורשות הזדהות. כל המידע שמועבר לשם אינו מאובטח ברמת פרטיות ארגונית.

האם אפשר להריץ את הקוד על המחשב שלי?

כן, הקוד מבוסס על ספריות פתוחות כמו ScrapeGraphAI ו־Gradio. תוכלו להוריד את קובץ האפליקציה, לספק מפתח API של Hugging Face ולהריץ אותה מקומית. זה ידרוש מכם התקנת פייתון וניהול תלויות עצמאי.

במה זה שונה משימוש ישיר במודל השפה?

מודל שפה רגיל אינו יכול לגלוש עצמאית ולשלוף את ה־HTML של הדף שציינתם. הכלי משתמש בספריית גירוד ייעודית שמורידה את הדף, מפרקת אותו בעזרת מודל הטמעות, ורק אז שולחת את התוכן הרלוונטי למודל השפה לצורך עיבוד וסידור.

איך משתמשים

מדביקים את הקישור לעמוד המבוקש, מוודאים שהפרומפט מוגדר נכון ולוחצים על כפתור ההפעלה. אין צורך בהרשמה או בהזנת מפתח אישי בתוך הממשק, אך האפליקציה נמצאת כעת במצב מושהה ולא פעיל. כשהיא רצה על חומרת מעבד בסיסית, הפניות מנותבות לנקודות קצה של המודלים, כך שמהירות התגובה תלויה בעיקר בעומס על השרתים החיצוניים.

הרישיון

היוצרים לא הגדירו רישיון שימוש בקוד. המשמעות היא שזכויות היוצרים שמורות להם במלואן, ואסור להעתיק או להשתמש ברכיבים לפרויקטים מסחריים בלי אישור מפורש.

הרישיון המלא ב־Hugging Face ↗