핵심 요구사항
- AWS 기반 데이터 파이프라인(S3, Glue, Athena, RDS, MWAA, EC2) 구축·운영 경험
- Python 및 SQL(PostgreSQL) 활용 능력 우수
- Glue 메타데이터/스키마 관리 및 Athena 조회 운영
- MWAA(Airflow) 기반 배치 파이프라인 운영
- 데이터 누락·오류 원인 분석 및 재처리 수행
- 폐쇄망 환경 GitLab 형상관리 및 상주 근무 가능
AWS 환경에서 Python과 SQL을 활용해 개인정보 활용 동의값 관련 데이터를 검증·처리하는 데이터 오퍼레이션 파이프라인을 구축·운영하는 프로젝트입니다. Glue ETL, Athena/SQL 기반 검증, MWAA(Airflow) 배치 파이프라인 운영과 데이터 누락·오류 발생 시 원인 분석 및 재처리를 담당합니다. 폐쇄망 환경에서 GitLab 형상관리를 활용하며, AWS 데이터 파이프라인 구축·운영 경험이 있는 4~7년차 데이터 엔지니어에게 적합합니다.