Web scraping com armazenamento em banco de dados
hoje às 12:34Descrição do Projeto:
O objetivo é desenvolver uma aplicação em Python autônoma que acesse e extraia dados de relatórios de um sistema web, filtre os registros relevantes e armazene-os em um banco PostgreSQL, garantindo a consistência das informações.
Fluxo do processo
Acesso ao sistema
Site: onvio.com.br
Login: usuário e senha (não há verificação em duas etapas ou captcha).
As credenciais de teste serão fornecidas após o fechamento da proposta.
Acesso ao relatório
Link direto: https://app.gestta.com.br/#/sidebar/report/list
Selecionar o relatório TAREFAS AUTOMAÇÃO.
Exportar o relatório (o sistema já oferece opções nativas para CSV, HTML, PDF, Excel etc.).
Filtragem
Percorrer os registros exportados.
Verificar a coluna TAREFA - NOME.
Apenas manter no processamento os registros cujo nome esteja presente na lista DEPARA (lista cadastrada no banco PostgreSQL).
Processamento e armazenamento
Para os registros filtrados, inserir/atualizar no banco PostgreSQL (UPSERT).
Utilizar a coluna ID como chave primária. Se o ID já existir, atualizar; caso contrário, inserir novo registro.
Requisitos técnicos
Banco PostgreSQL simples, apenas para armazenar as informações de forma consistente (posteriormente será conectado a um dashboard).
Aplicação autônoma, sem interação do usuário, executada várias vezes ao dia via agendador de tarefas.
Em caso de erro, disparar um e-mail para endereço configurável.
O envio de e-mails será via Gmail, devendo haver variáveis configuráveis para servidor, porta, usuário e senha.
Observações
O código deve ser limpo e documentado para facilitar manutenção futura.
A entrega deve ser feita via arquivo .py e deve conter um README bem estruturado.
Para o banco de dados, como se trata de uma aplicação simples, basta enviar o SQL para criação do banco (ou arquivo) que eu subo ele na minha máquina local.
Fiz um vídeo curto com menos de 2 minutos com as informações da tela. Como a plataforma não permite anexar esse tipo de arquivo, segue um link para visualizá-lo pelo Google Drive:
https://drive.google.com/file/d/1UC4AQUp30i47LKqUTSdGwQuCiQOWAAAG/view?usp=sharing
Atividades do cliente nesse projeto:
Última visualização: hoje às 17:51
Última interação: hoje às 17:52
Informações adicionais
| Categoria: | Web, Mobile & Software |
|---|---|
| Subcategoria: | Outra - Web, Mobile & Software |
| Orçamento: | Aberto |
| Nível de experiência: | Iniciante |
| Visibilidade: | Público |
| Propostas: | 7 |
| Interessados: | 15 |
| Valor Mínimo: | R$ 50,00 |
-
Submetido: | Oferta: Privado | Duração estimada: Privado
-
Submetido: | Oferta: Privado | Duração estimada: Privado
-
Submetido: | Oferta: Privado | Duração estimada: Privado
-
Submetido: | Oferta: Privado | Duração estimada: Privado
-
Submetido: | Oferta: Privado | Duração estimada: Privado
-
Submetido: | Oferta: Privado | Duração estimada: Privado
-
Submetido: | Oferta: Privado | Duração estimada: Privado
Desenvolvimento de robô de sinais para futebol virtual Kiron - Preciso de alguém que desenvolva ou já tenha pronto um robô de sinais do mercado de futebol virtual da Kiron na plataforma que eu solicitar.
Bot de WhatsApp com IA para atendimento automático - Estou em busca de um desenvolvedor para criar um projeto de atendimento automático no WhatsApp, integrando bot e inteligência artificial. O objetivo é ter um sistema que: &bul...
Automação para Google Calendar - Olá! Meu nome é Felipe e estou procurando alguém para ajudar minha equipe a automatizar o processo de atualização do Google Calendar com os detalhes das sess&otil...
Desenvolvimento de programa para leilão de imóveis - Preciso de um programa que acesse uma planilha em Excel (a planilha pode ser visualizada no link: https://venda-imoveis.caixa.gov.br/sistema/download-lista.asp, selecionando um estado qualquer e cl...
Desenvolvedor de automações - (Vitória / ES) - Preciso de um(a) desenvolvedor(a) que entenda ou tenha familiaridade com automações, integrações, IA, chatbot e derivados. O objetivo é otimizar o atendimento e a...
