Skip to content

Maxim2710/marketplace-parser

Folders and files

NameName
Last commit message
Last commit date

Latest commit

Β 

History

6 Commits
Β 
Β 
Β 
Β 
Β 
Β 
Β 
Β 
Β 
Β 

Repository files navigation

marketplace-parser

Π­Ρ‚ΠΎΡ‚ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚ прСдставляСт собой парсСр для извлСчСния Π΄Π°Π½Π½Ρ‹Ρ… ΠΎ Ρ‚ΠΎΠ²Π°Ρ€Π°Ρ… с Π²Π΅Π±-сайтов.

ЦСль

ЦСль Π΄Π°Π½Π½ΠΎΠ³ΠΎ ΠΏΡ€ΠΎΠ΅ΠΊΡ‚Π° - автоматизация сбора ΠΈΠ½Ρ„ΠΎΡ€ΠΌΠ°Ρ†ΠΈΠΈ ΠΎ Ρ‚ΠΎΠ²Π°Ρ€Π°Ρ…, Π²ΠΊΠ»ΡŽΡ‡Π°Ρ ΠΈΡ… ID, названия, Ρ†Π΅Π½Ρ‹ ΠΈ Π΄Π°Ρ‚Ρ‹, с Π²Π΅Π±-страниц. Π­Ρ‚ΠΎ позволяСт ΠΏΠΎΠ»ΡŒΠ·ΠΎΠ²Π°Ρ‚Π΅Π»ΡΠΌ быстро ΠΈ эффСктивно ΡΠΎΠ±ΠΈΡ€Π°Ρ‚ΡŒ Π΄Π°Π½Π½Ρ‹Π΅ для Π°Π½Π°Π»ΠΈΠ·Π° ΠΈΠ»ΠΈ Π΄Ρ€ΡƒΠ³ΠΈΡ… Ρ†Π΅Π»Π΅ΠΉ.

Установка

  1. ΠšΠ»ΠΎΠ½ΠΈΡ€ΡƒΠΉΡ‚Π΅ Ρ€Π΅ΠΏΠΎΠ·ΠΈΡ‚ΠΎΡ€ΠΈΠΉ:

    git clone https://github.com/Maxim2710/marketplace-parser.git
    cd marketplace-parser
  2. Π‘ΠΎΠ·Π΄Π°ΠΉΡ‚Π΅ Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½ΠΎΠ΅ ΠΎΠΊΡ€ΡƒΠΆΠ΅Π½ΠΈΠ΅:

    python -m venv venv
  3. АктивируйтС Π²ΠΈΡ€Ρ‚ΡƒΠ°Π»ΡŒΠ½ΠΎΠ΅ ΠΎΠΊΡ€ΡƒΠΆΠ΅Π½ΠΈΠ΅:

    • Для Windows:

      venv\Scripts\activate
    • Для macOS/Linux:

      source venv/bin/activate
  4. УстановитС Π½Π΅ΠΎΠ±Ρ…ΠΎΠ΄ΠΈΠΌΡ‹Π΅ зависимости:

    pip install -r requirements.txt

ИспользованиС

  1. ЗапуститС парсСр:

    python avito-parser.py
    python wildberries-parser.py
  2. Когда Π±ΡƒΠ΄Π΅Ρ‚ ΠΏΡ€Π΅Π΄Π»ΠΎΠΆΠ΅Π½ΠΎ, Π²Π²Π΅Π΄ΠΈΡ‚Π΅ ссылку Π½Π° страницу ΠΊΠ°Ρ‚Π°Π»ΠΎΠ³Π° Ρ‚ΠΎΠ²Π°Ρ€ΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π²Ρ‹ Ρ…ΠΎΡ‚ΠΈΡ‚Π΅ ΠΏΠ°Ρ€ΡΠΈΡ‚ΡŒ.

  3. Π’Π²Π΅Π΄ΠΈΡ‚Π΅ ΠΌΠΈΠ½ΠΈΠΌΠ°Π»ΡŒΠ½ΡƒΡŽ ΠΈ ΠΌΠ°ΠΊΡΠΈΠΌΠ°Π»ΡŒΠ½ΡƒΡŽ Ρ†Π΅Π½Ρ‹ для Ρ„ΠΈΠ»ΡŒΡ‚Ρ€Π°Ρ†ΠΈΠΈ Ρ‚ΠΎΠ²Π°Ρ€ΠΎΠ².

  4. ПослС Π·Π°Π²Π΅Ρ€ΡˆΠ΅Π½ΠΈΡ парсинга Π΄Π°Π½Π½Ρ‹Π΅ Π±ΡƒΠ΄ΡƒΡ‚ сохранСны Π² Ρ„ΠΎΡ€ΠΌΠ°Ρ‚Π΅ CSV Π² Π΄ΠΈΡ€Π΅ΠΊΡ‚ΠΎΡ€ΠΈΠΈ result с ΠΈΠΌΠ΅Π½Π΅ΠΌ, состоящим ΠΈΠ· названия ΠΊΠ°Ρ‚Π°Π»ΠΎΠ³Π° ΠΈ Ρ‚Π΅ΠΊΡƒΡ‰Π΅ΠΉ Π΄Π°Ρ‚Ρ‹.

ΠžΠ±Ρ‰Π°Ρ инструкция ΠΏΠΎ использованию

  • ΠŸΠ΅Ρ€Π΅Π΄ запуском парсСра ΡƒΠ±Π΅Π΄ΠΈΡ‚Π΅ΡΡŒ, Ρ‡Ρ‚ΠΎ Ρƒ вас установлСн geckodriver ΠΈ ΠΎΠ½ доступСн Π² PATH для Ρ€Π°Π±ΠΎΡ‚Ρ‹ с Firefox.
  • ΠŸΡ€ΠΎΠ²Π΅Ρ€ΡŒΡ‚Π΅, Ρ‡Ρ‚ΠΎ ваш ΠΈΠ½Ρ‚Π΅Ρ€Π½Π΅Ρ‚-соСдинСниС Π°ΠΊΡ‚ΠΈΠ²Π½ΠΎ, Ρ‚Π°ΠΊ ΠΊΠ°ΠΊ парсСр Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ доступа ΠΊ Π²Π΅Π±-страницам.
  • Π£Π±Π΅Π΄ΠΈΡ‚Π΅ΡΡŒ, Ρ‡Ρ‚ΠΎ URL, ΠΊΠΎΡ‚ΠΎΡ€Ρ‹ΠΉ Π²Ρ‹ Π²Π²ΠΎΠ΄ΠΈΡ‚Π΅ для парсинга, Π΄Π΅ΠΉΡΡ‚Π²ΠΈΡ‚Π΅Π»ΡŒΠ½ΠΎ соотвСтствуСт ΠΊΠ°Ρ‚Π°Π»ΠΎΠ³Ρƒ с Ρ‚ΠΎΠ²Π°Ρ€Π°ΠΌΠΈ, Ρ‡Ρ‚ΠΎΠ±Ρ‹ ΠΈΠ·Π±Π΅ΠΆΠ°Ρ‚ΡŒ ошибок ΠΏΡ€ΠΈ ΠΈΠ·Π²Π»Π΅Ρ‡Π΅Π½ΠΈΠΈ Π΄Π°Π½Π½Ρ‹Ρ….
  • Π’Ρ‹ ΠΌΠΎΠΆΠ΅Ρ‚Π΅ ΠΈΠ·ΠΌΠ΅Π½ΠΈΡ‚ΡŒ ΠΌΠΈΠ½ΠΈΠΌΠ°Π»ΡŒΠ½ΡƒΡŽ ΠΈ ΠΌΠ°ΠΊΡΠΈΠΌΠ°Π»ΡŒΠ½ΡƒΡŽ Ρ†Π΅Π½Ρ‹ Π² соотвСтствии с вашими потрСбностями для получСния Ρ‚ΠΎΠ»ΡŒΠΊΠΎ Ρ‚Π΅Ρ… Ρ‚ΠΎΠ²Π°Ρ€ΠΎΠ², ΠΊΠΎΡ‚ΠΎΡ€Ρ‹Π΅ Π²Π°ΠΌ интСрСсны.

Зависимости

ΠŸΡ€ΠΎΠ΅ΠΊΡ‚ Ρ‚Ρ€Π΅Π±ΡƒΠ΅Ρ‚ установки ΡΠ»Π΅Π΄ΡƒΡŽΡ‰ΠΈΡ… Π±ΠΈΠ±Π»ΠΈΠΎΡ‚Π΅ΠΊ:

  • selenium
  • beautifulsoup4
  • dateparser

Бписок всСх зависимостСй ΠΌΠΎΠΆΠ½ΠΎ Π½Π°ΠΉΡ‚ΠΈ Π² Ρ„Π°ΠΉΠ»Π΅ requirements.txt.

ΠŸΡ€ΠΈΠΌΠ΅Ρ‡Π°Π½ΠΈΠ΅

  • Π£Π±Π΅Π΄ΠΈΡ‚Π΅ΡΡŒ, Ρ‡Ρ‚ΠΎ Ρƒ вас установлСн geckodriver ΠΈ ΠΎΠ½ доступСн Π² PATH для Ρ€Π°Π±ΠΎΡ‚Ρ‹ с Firefox.

About

There are parsers for marketplaces here

Topics

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages