Skip to content

Latest commit

 

History

14 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Projeto ETL de Terremotos com API USGS

Este projeto realiza um pipeline de dados automatizado com Python, Airflow e Hadoop, consumindo dados sísmicos da API da USGS.

Tecnologias

  • Python
  • Apache Airflow
  • Hadoop HDFS
  • Pandas, Requests

Estrutura

  • scripts/etl.py: Código de extração e transformação
  • dags/terremotos_etl.py: DAG do Airflow
  • dados_brutos/: Dados brutos
  • dados_processados/: Dados limpos
  • notebooks/: Análises

Execução

pip install -r requirements.txt
airflow db init
airflow webserver --port 8080
airflow scheduler

About

Projeto final da Formação Avançada Python para Dados - PY01

Topics

Resources

Stars

0 stars

Watchers

1 watching

Forks

Releases

Packages

Used by

Contributors

Languages