Realizado

Desenvolvimento de Web Crawler para pesquisa de Produtos

Publicado em 13 de Dezembro de 2018 dias na TI e Programação

Sobre este projeto

Aberto

Objeto:

Desenvolvimento de um sistema (Banco de Dados, Back End e Front End) para pesquisar os produtos e preços em 15 sites de comércio eletrônico.


Requisitos:

Deverá rastrear todas as categorias de produtos do site, página por página, quando chegar na última página de uma categoria, voltar pra primeira página.


Exemplo:

Categoria Telefonia: https://www.walmart.com.br/busca/?fq=C%3A4833&ft=&mm=100&PageNumber=1

O sistema vai pegar todas as informações dos produtos dessa categoria, da primeira até chegar a última página em que há produtos em estoque:

https://www.walmart.com.br/busca/?fq=C%3A4833&ft=&mm=100&PageNumber=157

Quando terminar de rastrear todas as páginas da categoria, ele vai começar de novo e desta forma, comparar o preço da varredura anterior com o preço da varredura atual.

Fim do Exemplo.


No exemplo explano uma das maneiras que isso pode ser feito, se conseguir fazer de uma maneira mais fácil e rápida não tem problema.

Deverá armazenar e indexar as informações coletadas em um banco de dados, depois verificar as alterações nos preços dos produtos e armazenar em um campo a porcentagem de alteração no preço.

Deverá armazenar no banco de dados a data e horário da última atualização do produto.

Deverá apresentar os dados em um dashboard, informando a Categoria do Produto, Descrição do Produto (Com link para página do produto), Loja, Preço Atual, Preço Anterior, % de Desconto, Diferença de Valor, Histórico de Preços, Data de Alteração do Preço.

Deverá emitir um alerta sonoro quando aparecer uma nova alteração de preço. Este alerta sonoro deverá ser configurável de acordo com a % de queda de preço. Exemplo: Tocar alerta sonoro sempre que o produto baixar 50% (essa porcentagem eu quero poder mudar).


Deverá possuir minimamente os seguintes filtros para exibição no frontend:
- Mostrar produtos que tiveram preços alterados nas últimas xx horas
- Mostrar produtos que tiveram mais de xx % de queda de preço
- Mostrar produtos que tiveram mais de R$ xx de queda de preço
- Mostrar produtos da categoria xxx

Deverá ser possível buscar por produto.

Deverá ser possível classificar por Categoria do Produto, Descrição do Produto, Preço Atual, Preço Anterior, % de Desconto, Diferença de Valor.

Deverá realizar a varredura dos sites automaticamente.

Deverá possibilitar a limpeza da base de dados.

Deverá possuir área administrativa (Criação de Logins de Acesso, Ferramenta para Limpeza da Base de Dados, etc).

Deverá efetuar a varredura nos sites abaixo:

Americanas - www.americanas.com.br
Shoptime - www.shoptime.com.br
Soubarato - www.soubarato.com.br
Magazine Luiza - www.magazineluiza.com.br
Dafiti - www.dafiti.com.br
Zattini - www.zattini.com.br
Netshoes - www.netshoes.com.br
Centauro - www.centauro.com.br
Carrefour - www.carrefour.com.br
Barateiro - www.barateiro.com.br
Casas Bahia - www.casasbahia.com.br
Mobly - www.mobly.com.br
Saraiva - www.saraiva.com.br
Zoom - www.zoom.com.br
Jacotei - www.jacotei.com.br

Categoria TI e Programação
Subcategoria Programação
Qual é o alcance do projeto? Criar um novo site personalizado
Isso é um projeto ou uma posição de trabalho? Um projeto
Tenho, atualmente Eu tenho especificações
Disponibilidade requerida Conforme necessário
Funções necessárias Designer, Desenvolvedor

Prazo de Entrega: 01 de Janeiro de 2019

Habilidades necessárias

Outro projetos publicados por F. Y. H.