Realizado

Desenvolvimento de Web Crawler para pesquisa de Produtos

Publicado em 13 de Dezembro de 2018 dias na TI e Programação

Sobre este projeto

USD 250 - 500

Objeto:

Desenvolvimento de um sistema (Banco de Dados, Back End e Front End) para pesquisar os produtos e preços em 15 sites de comércio eletrônico.


Requisitos:

Deverá rastrear todas as categorias de produtos do site, página por página, quando chegar na última página de uma categoria, voltar pra primeira página.


Exemplo:

Categoria Telefonia: https://www.walmart.com.br/busca/?fq=C%3A4833&ft=&mm=100&PageNumber=1

O sistema vai pegar todas as informações dos produtos dessa categoria, da primeira até chegar a última página em que há produtos em estoque:

https://www.walmart.com.br/busca/?fq=C%3A4833&ft=&mm=100&PageNumber=157

Quando terminar de rastrear todas as páginas da categoria, ele vai começar de novo e desta forma, comparar o preço da varredura anterior com o preço da varredura atual.

Fim do Exemplo.


No exemplo explano uma das maneiras que isso pode ser feito, se conseguir fazer de uma maneira mais fácil e rápida não tem problema.

Deverá armazenar e indexar as informações coletadas em um banco de dados, depois verificar as alterações nos preços dos produtos e armazenar em um campo a porcentagem de alteração no preço.

Deverá armazenar no banco de dados a data e horário da última atualização do produto.

Deverá apresentar os dados em um dashboard, informando a Categoria do Produto, Descrição do Produto (Com link para página do produto), Loja, Preço Atual, Preço Anterior, % de Desconto, Diferença de Valor, Histórico de Preços, Data de Alteração do Preço.

Deverá emitir um alerta sonoro quando aparecer uma nova alteração de preço. Este alerta sonoro deverá ser configurável de acordo com a % de queda de preço. Exemplo: Tocar alerta sonoro sempre que o produto baixar 50% (essa porcentagem eu quero poder mudar).


Deverá possuir minimamente os seguintes filtros para exibição no frontend:
- Mostrar produtos que tiveram preços alterados nas últimas xx horas
- Mostrar produtos que tiveram mais de xx % de queda de preço
- Mostrar produtos que tiveram mais de R$ xx de queda de preço
- Mostrar produtos da categoria xxx

Deverá ser possível buscar por produto.

Deverá ser possível classificar por Categoria do Produto, Descrição do Produto, Preço Atual, Preço Anterior, % de Desconto, Diferença de Valor.

Deverá realizar a varredura dos sites automaticamente.

Deverá possibilitar a limpeza da base de dados.

Deverá possuir área administrativa (Criação de Logins de Acesso, Ferramenta para Limpeza da Base de Dados, etc).

Deverá efetuar a varredura nos sites abaixo:

Americanas - www.americanas.com.br
Shoptime - www.shoptime.com.br
Soubarato - www.soubarato.com.br
Magazine Luiza - www.magazineluiza.com.br
Dafiti - www.dafiti.com.br
Zattini - www.zattini.com.br
Netshoes - www.netshoes.com.br
Centauro - www.centauro.com.br
Carrefour - www.carrefour.com.br
Barateiro - www.barateiro.com.br
Casas Bahia - www.casasbahia.com.br
Mobly - www.mobly.com.br
Saraiva - www.saraiva.com.br
Zoom - www.zoom.com.br
Jacotei - www.jacotei.com.br

Categoria TI e Programação
Subcategoria Programação
Qual é o alcance do projeto? Criar um novo site personalizado
Isso é um projeto ou uma posição de trabalho? Um projeto
Tenho, atualmente Eu tenho especificações
Disponibilidade requerida Conforme necessário
Funções necessárias Designer, Desenvolvedor

Prazo de Entrega: 26 de Fevereiro de 2020

Habilidades necessárias

Python

Voce gostaria de começar trabalhar neste projeto?

Entre com sua conta Workana ou faça o seu cadastro! Potencialize seu trabalho freelancer

Outro projetos publicados por Fabio Y. H.

Freelancers que já se candidataram para este trabalho

  • Expecialista em desenvolvimento de robôs da web, crawlers, scraping, mercado financeiro e outros. Mais de 10 anos de experiencia. Bots para mercado financeiro, detrans, receita federal, Instagram, ...

  • FORMAÇÃO 2013 – Atualmente SENAC São Paulo - SP • Cursando Tecnologia em Jogos Digitais 2006 – 2010 FEA/USP Ribeirão Preto - SP • Bacharelado em Ciências Econômicas incompleto 2004 Colégi...

  • Com mais de 10 anos de experiência em desenvolvimento de soluções para diversos perfis de clientes. Com mais de 1 ano de experiência apenas no Workana, onde obtive 5 estrelas em mais de 95% dos m...

  • Olá, me chamo Marcel Belato! Tenho 30 anos e sou profissional de TI, formado como Bacharel em Ciências da Computação desde 2008. Estou em constante atuação na área de Tecnologia, Inovação e Desen...

  • Bruxo em Python.