cria spider Barra Do Pirai

[JP0ttoni]

AO ABRIR uma Pull Request de um novo raspador (spider), marque com um X cada um dos items da checklist abaixo. Caso algum item não seja marcado, JUSTIFIQUE o motivo.

Layout do site publicador de diários oficiais

Marque apenas um dos itens a seguir:

• O layout não se parece com nenhum caso da lista de layouts padrão
• É um layout padrão e esta PR adiciona a spider base do padrão ao projeto junto com alguns municípios que fazem parte do padrão.
• É um layout padrão e todos os municípios adicionados usam a classe de spider base adequada para o padrão.

Código da(s) spider(s)

• O(s) raspador(es) adicionado(s) tem os atributos de classe exigidos.
• O(s) raspador(es) adicionado(s) cria(m) objetos do tipo Gazette coletando todos os metadados necessários.
• O atributo de classe start_date foi preenchido com a data da edição de diário oficial mais antiga disponível no site.
• Explicitar o atributo de classe end_date não se fez necessário.
• Não utilizo custom_settings em meu raspador.

Testes

• Uma coleta-teste da última edição foi feita. O arquivo de .log deste teste está anexado na PR.
• Uma coleta-teste por intervalo arbitrário foi feita. Os arquivos de .loge .csv deste teste estão anexados na PR.
• Uma coleta-teste completa foi feita. Os arquivos de .log e .csv deste teste estão anexados na PR.
  ultima.log
  ultima.csv
  intervalo.log
  intervalo.csv
  completa.csv
  completa.log

Verificações

• Eu experimentei abrir alguns arquivos de diários oficiais coletados pelo meu raspador e verifiquei eles conforme a documentação não encontrando problemas.
• Eu verifiquei os arquivos .csv gerados pela minha coleta conforme a documentação não encontrando problemas.
• Eu verifiquei os arquivos de .log gerados pela minha coleta conforme a documentação não encontrando problemas.

Descrição

Resolve #1192 criando spider pra Barra Do pirai

[slfabio]

Código revisado. Sem sugestões de melhorias.

[firefueled]

Boa @JP0ttoni! Identifiquei uma pequena correção que pode ser feita na captura da edição.
De resto, tudo ótimo!

• O Layout é novo mesmo
• atributos
  • name
  • TERRITORY_ID
  • allowed_domains
  • start_urls/start_requests()
  • start_date
    • a página aparenta ter um link para itens de 2008 mas não é um link real :shrug
  • não precisa de end_date
• código ok?
  • Gazette criado corretamente?
    • date
    • edition_number
    • is_extra_edition
    • power
      • Notei que os PDFs indicam explicitamente o poder como executivo somente, até 21/10/2021.
      • Depois, executivo e legislativo.
      • O quão importante é este atributo? Devemos colocar uma condição para setá-lo corretamente?
• roda?
  • uma data
  • um intervalo
  • todos
• evidências
  • ultima
  • intervalo
  • completo

[firefueled]

Gostei do word boundary 🆒 mas ele quebra em algumas datas de 2009 quando a edição tem uma letra junta: 123a. Resultando no número de edição errado.
Consegue ajustar para evitar isso?

[JP0ttoni]

mas eu devo deixar o edition_number 123 ou 123a? não ficou muito claro para mim.

[firefueled]

Eu deixaria 123 porque é o que está no PDF. Isso significa que teríamos múltiplos documentos com número de edição igual mas isso não é permitido um problema.

[firefueled]

Oops. Eu disse que múltiplas edições iguais seriam um problema, mas não são. Corrigido

[JP0ttoni]

ja atualizei o log e o csv da raspagem completa e atualizei o código com as modificações exigidas.