Este projeto realiza um pipeline de dados automatizado com Python, Airflow e Hadoop, consumindo dados sísmicos da API da USGS.
- Python
- Apache Airflow
- Hadoop HDFS
- Pandas, Requests
scripts/etl.py: Código de extração e transformaçãodags/terremotos_etl.py: DAG do Airflowdados_brutos/: Dados brutosdados_processados/: Dados limposnotebooks/: Análises
pip install -r requirements.txt
airflow db init
airflow webserver --port 8080
airflow scheduler