프로젝트/실시간 데이터 처리 프로젝트

실시간 데이터 처리 프로젝트 - 제작02

코드짜는 뉴비 2025. 7. 17. 20:09

변경점

Kafka로 암호화폐 거래 가격을 5초마다 긁어올 수 있음 -> consumer가 데이터를 수집하는 과정까지 구현 완료

현재 로직

Kafka producer 암호화폐 거래 가격 데이터 수집 -> Kafka consumer 데이터를 전달 받음

진행 상황

  • Kafka를 이용하여 데이터를 실시간으로 수집하고 관리하기 - 구현 중
  • Airflow를 이용하여 데이터를 가공하고 모델을 학습하는 파이프라인 구성 - 구현 중
  • 웹 페이지 구현 - X
  • 기타 기능 - X

오늘 한 일

  • Kafka producer 구현
  • Kafka consumer가 데이터를 전달받는 기능까지 구현
  • yaml 파일 재구성
  • 암호화폐 심볼을 분석하여 가져올 가격 기준 설정

프로젝트 내용 : https://github.com/sinjaeu/realtime_crypto

 

GitHub - sinjaeu/realtime_crypto

Contribute to sinjaeu/realtime_crypto development by creating an account on GitHub.

github.com

 

2025.07.16 - [프로젝트/실시간 데이터 처리 프로젝트] - 실시간 데이터 처리 프로젝트 - 제작01

 

실시간 데이터 처리 프로젝트 - 제작01

변경점airflow에서 5초마다 데이터를 가져오는 방식 -> kafka에서 데이터를 가져오고 airflow에서 가공 및 저장하는 방식으로 변경kafka 구성airflow 수정프로젝트 폴더 구조 변경yaml 파일 수정현재 로직

conewbie.tistory.com