Completed

Desenvolvimento de Web Crawler para pesquisa de Produtos

Published on the December 13, 2018 in IT & Programming

About this project

Open

Objeto:

Desenvolvimento de um sistema (Banco de Dados, Back End e Front End) para pesquisar os produtos e preços em 15 sites de comércio eletrônico.


Requisitos:

Deverá rastrear todas as categorias de produtos do site, página por página, quando chegar na última página de uma categoria, voltar pra primeira página.


Exemplo:

Categoria Telefonia: https://www.walmart.com.br/busca/?fq=C%3A4833&ft=&mm=100&PageNumber=1

O sistema vai pegar todas as informações dos produtos dessa categoria, da primeira até chegar a última página em que há produtos em estoque:

https://www.walmart.com.br/busca/?fq=C%3A4833&ft=&mm=100&PageNumber=157

Quando terminar de rastrear todas as páginas da categoria, ele vai começar de novo e desta forma, comparar o preço da varredura anterior com o preço da varredura atual.

Fim do Exemplo.


No exemplo explano uma das maneiras que isso pode ser feito, se conseguir fazer de uma maneira mais fácil e rápida não tem problema.

Deverá armazenar e indexar as informações coletadas em um banco de dados, depois verificar as alterações nos preços dos produtos e armazenar em um campo a porcentagem de alteração no preço.

Deverá armazenar no banco de dados a data e horário da última atualização do produto.

Deverá apresentar os dados em um dashboard, informando a Categoria do Produto, Descrição do Produto (Com link para página do produto), Loja, Preço Atual, Preço Anterior, % de Desconto, Diferença de Valor, Histórico de Preços, Data de Alteração do Preço.

Deverá emitir um alerta sonoro quando aparecer uma nova alteração de preço. Este alerta sonoro deverá ser configurável de acordo com a % de queda de preço. Exemplo: Tocar alerta sonoro sempre que o produto baixar 50% (essa porcentagem eu quero poder mudar).


Deverá possuir minimamente os seguintes filtros para exibição no frontend:
- Mostrar produtos que tiveram preços alterados nas últimas xx horas
- Mostrar produtos que tiveram mais de xx % de queda de preço
- Mostrar produtos que tiveram mais de R$ xx de queda de preço
- Mostrar produtos da categoria xxx

Deverá ser possível buscar por produto.

Deverá ser possível classificar por Categoria do Produto, Descrição do Produto, Preço Atual, Preço Anterior, % de Desconto, Diferença de Valor.

Deverá realizar a varredura dos sites automaticamente.

Deverá possibilitar a limpeza da base de dados.

Deverá possuir área administrativa (Criação de Logins de Acesso, Ferramenta para Limpeza da Base de Dados, etc).

Deverá efetuar a varredura nos sites abaixo:

Americanas - www.americanas.com.br
Shoptime - www.shoptime.com.br
Soubarato - www.soubarato.com.br
Magazine Luiza - www.magazineluiza.com.br
Dafiti - www.dafiti.com.br
Zattini - www.zattini.com.br
Netshoes - www.netshoes.com.br
Centauro - www.centauro.com.br
Carrefour - www.carrefour.com.br
Barateiro - www.barateiro.com.br
Casas Bahia - www.casasbahia.com.br
Mobly - www.mobly.com.br
Saraiva - www.saraiva.com.br
Zoom - www.zoom.com.br
Jacotei - www.jacotei.com.br

Category IT & Programming
Subcategory Web development
What is the scope of the project? Create a new custom site
Is this a project or a position? Project
I currently have I have specifications
Required availability As needed
Roles needed Designer, Developer

Delivery term: January 01, 2019

Skills needed

Other projects posted by F. Y. H.