프로젝트/실시간 데이터 처리 프로젝트
실시간 데이터 처리 프로젝트 - 제작02
코드짜는 뉴비
2025. 7. 17. 20:09
변경점
Kafka로 암호화폐 거래 가격을 5초마다 긁어올 수 있음 -> consumer가 데이터를 수집하는 과정까지 구현 완료
현재 로직
Kafka producer 암호화폐 거래 가격 데이터 수집 -> Kafka consumer 데이터를 전달 받음
진행 상황
- Kafka를 이용하여 데이터를 실시간으로 수집하고 관리하기 - 구현 중
- Airflow를 이용하여 데이터를 가공하고 모델을 학습하는 파이프라인 구성 - 구현 중
- 웹 페이지 구현 - X
- 기타 기능 - X
오늘 한 일
- Kafka producer 구현
- Kafka consumer가 데이터를 전달받는 기능까지 구현
- yaml 파일 재구성
- 암호화폐 심볼을 분석하여 가져올 가격 기준 설정
프로젝트 내용 : https://github.com/sinjaeu/realtime_crypto
GitHub - sinjaeu/realtime_crypto
Contribute to sinjaeu/realtime_crypto development by creating an account on GitHub.
github.com
2025.07.16 - [프로젝트/실시간 데이터 처리 프로젝트] - 실시간 데이터 처리 프로젝트 - 제작01
실시간 데이터 처리 프로젝트 - 제작01
변경점airflow에서 5초마다 데이터를 가져오는 방식 -> kafka에서 데이터를 가져오고 airflow에서 가공 및 저장하는 방식으로 변경kafka 구성airflow 수정프로젝트 폴더 구조 변경yaml 파일 수정현재 로직
conewbie.tistory.com