일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 | 31 |
Tags
- spark
- docker hub
- docker
- 데이터 웨어하우스
- ELT
- 데이터파이프라인
- dag 작성
- 웹 크롤링
- 컨테이너 삭제
- Django
- redshift
- snowflake
- Serializer
- ETL
- airflow
- docker-compose
- 데이터마트
- truncate
- SQL
- airflow.cfg
- AWS
- Kafka
- 웹 스크래핑
- Hive
- 데이터레이크
- 알고리즘
- yarn
- selenium
- dag
- Django Rest Framework(DRF)
Archives
- Today
- Total
목록slack연동 (1)
개발 기록장

학습 주제: Summary 테이블 구현(ELT), Airflow와 Slack 연동하기Summary 테이블 구현(ELT)CTAS 한 파일 안에서 구현PythonOperator를 만들고 params 파라미터를 설정해서 CTAS 및 ELT 구현execsql = PythonOperator( task_id = 'mau_summary', python_callable = execSQL, params = { 'schema' : 'analytics', 'table': 'mau_summary', 'sql' : """SELECT TO_CHAR(A.ts, 'YYYY-MM') AS month, COUNT(DISTINCT B.userid) AS mauFROM raw_da..
데브코스(DE)/Airflow 고급 기능 배우기, DBT와 데이터 디스커버리 소개
2024. 6. 5. 21:42