일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 | 31 |
Tags
- ETL
- yarn
- SQL
- 웹 크롤링
- 웹 스크래핑
- spark
- Kafka
- snowflake
- AWS
- 데이터파이프라인
- selenium
- 알고리즘
- ELT
- Serializer
- airflow.cfg
- 데이터 웨어하우스
- dag 작성
- 컨테이너 삭제
- truncate
- 데이터레이크
- redshift
- Hive
- Django Rest Framework(DRF)
- docker hub
- airflow
- docker-compose
- docker
- Django
- dag
- 데이터마트
Archives
- Today
- Total
목록팩트테이블 (1)
개발 기록장
06. 데이터 마트의 구축
데이터 만드는 절차에서 필요한 각종 테이블 역할과 비정규화 테이블을 만들기까지의 흐름팩트 테이블: 시계열 데이터 축적팩트 테이블이 아주 작으면 메모리에 올릴 수도 있지만, 그렇지 않으면 열 지향 스토리지에서 데이터를 압축해야 빠른 집계가 가능함팩트 테이블 작성하는 2가지 방식추가(append): 새로 도착한 데이터 만을 추가치환(replace): 과거의 데이터를 포함해 테이블 전체를 치환(팩트 테이블 전체를 다시 만드는 것)테이블 파티셔닝: 물리적인 파티션으로 분할효율만을 생각하면 추가가 유리하지만 다음과 같은 잠재적 문제가 존재함추가에 실패한 것을 알아채지 못하면 팩트 테이블 일부에 결손이 발생함추가를 잘못해서 여러 번 실행하면 팩트 테이블 일부가 중복됨나중에 팩트 테이블을 다시 만들고 싶은 경우 관리..
빅데이터를 지탱하는 기술
2024. 7. 3. 00:12