Web Crawler para monitorar produtos da OLX.
Preferencialmente, não obrigatório, usando python e MySQL. O programa será agendado para executar via agendador de tarefas do Windows em dias\horários desejados.
a. No front-end deve ser possível selecionar a categoria e regiões a ser monitorada. Ex.: Veículos, Imóveis etc.
b. Mais de uma categoria e região podem ser monitoradas.
c. Todas as variáveis do anúncio devem ser capturadas, incluindo o link original do anúncio e armazenadas no BD MySQL local no meu desktop onde o programa tbm será executado.
d. Pode ser criada uma única tabela para todas as categorias, bastando informar numa coluna a categoria da informação coletada, numa segunda coluna a data de coleta dos dados.
e. Exemplos de variáveis por categoria
a. Imóveis: Descrição, Preço, Localização (CEP, Endereço), mt2, bairro, cidade, contato e nome para contato.
b. Veículos: Marca, Modelo, KMs, Ano, Combustível e etc...
f. Caso o mesmo anuncio tenha alteração de preço sem que isso altere o ID do anuncio, pode ser incluída uma nova linha na tabela de extração sem apagar o ID anterior.
g. Esse é um projeto de uso pessoal e não comercial, portanto, sugestões são bem-vindas.

Existem alguns códigos que podem ajudar no projeto:

https://github.com/umayr/olx

https://www.phpclasses.org/package/8065-PHP-Extract-data-of-classifieds-published-in-OLX-sites.html

http://www.gilenofilho.com.br/usando-o-scrapy-e-o-rethinkdb-para-capturar-e-armazenar-dados-imobiliarios-parte-i/

http://blog.adnansiddiqi.me/write-your-first-web-crawler-in-python-scrapy/

Aguardo seus comentários e proposta.