پروژه : اسکریپت scrape دیتا از سایت Catawiki با پایتون


سلام

هدف اسکریپت دریافت اطلاعات درباره‌ی حراجی‌ها و ذخیره‌ی آن با یک structure مناسب در MongoDB میباشد

اسکریپت باید به زبان پایتون نوشته شده باشد که خب میشه از لایبرری scrapy برای scrape کردن دیتا استفاده کرد.

دو نوع ورودی داریم که باید پردازش کنیم و در دیتابیس ذخیره کنیم.

1. دریافت دیتای حراجی‌های تمام شده (Ended Auctions) با استفاده از API سایت Ebay

2. scrape کردن دیتا از سایت Catawiki البته فقط دو کتگوری

در آخر هم میخواهیم روی سرور اینها را آماده کنیم و با Cron جاب نوشته و هر هفته اسکریپت اجرا شود و در دیتابیس دیتای مربوطه ذخیره شود.


توضیحات کاملتر را در لینک زیرمشاهده کنید.
https://docs.google.com/document/d/1JJDBBh6tHujL5Um1wnDuRlXGfQCZ27eNjTiH_EHTfWE/edit?usp=sharing