About this project
it-programming / web-development
Open
Buscamos um(a) Desenvolvedor(a) Sênior altamente qualificado(a) para liderar um projeto de coleta, estruturação e automação de dados do mercado imobiliário, com integração direta em nosso CRM. O profissional será responsável por desenvolver robôs de scraping robustos e escaláveis, capazes de extrair informações de 8 grandes plataformas imobiliárias inicialmente (como QuintoAndar, Buskasa, Chaves na Mão, entre outras) e expandir para até 100 sites e redes. É Fundamental garantir a qualidade, padronização e atualização constante dos dados coletados.
Além do scraping, a função inclui o tratamento e enriquecimento dos dados utilizando inteligência artificial. Isso abrange tarefas como limpeza, normalização, deduplicação, classificação de anúncios, geração de descrições automáticas, extração de atributos chave e a criação de um sistema de scoring para oportunidades de negócio. Todo o fluxo de dados, desde a captação até o cadastro de imóveis, deverá ser integrado ao CRM por meio de APIs oficiais, webhooks e rotinas automatizadas, formando um pipeline contínuo e eficiente.
O escopo do projeto também envolve a capacidade de contornar mudanças de layout nos sites, gerenciar cookies, headers e sessões de forma eficaz, utilizar proxies dentro das diretrizes permitidas, criar filas e agendamentos para a coleta de dados, armazenar as informações em banco de dados e manter um sistema de versionamento e métricas de desempenho para monitoramento contínuo.
Requisitos essenciais incluem experiência sênior comprovada em web scraping em larga escala, domínio de Python (com experiência em bibliotecas como Scrapy, BeautifulSoup, Selenium ou Playwright), manipulação avançada de html, css e javascript. É Imprescindível ter experiência com bancos de dados, desenvolvimento e integração de APIs, autenticação, versionamento de código com Git e aplicação de boas práticas de arquitetura de software. Diferenciais importantes para esta posição são experiência com integração de CRM, automações (n8n, Make, Zapier), conhecimento em ambientes de cloud computing, uso de Docker e aplicação prática de inteligência artificial para tratamento e classificação de dados. Procuramos um profissional autônomo, organizado e fortemente orientado a resultados, com a capacidade de construir um sistema escalável, eficiente e bem documentado.
Category IT & Programming
Subcategory Web development
What is the scope of the project? Create a new custom site
Delivery term: Not specified
Skills needed