Kafka connector(2)
-
[Kafka_CDC]_kafka CDC 기능으로 변경 데이터 - consumer MongoDB 저장(5단계. CDC log DB저장)
구축 목표] 실시간으로 Source DB의 데이터가 변할 때 Debezium Kafka Connecter 를 통해 consumer 에게 메세지 보내고 해당 데이터 ( Json 형식의 string type) 을 paylaod 부분 추출하여 MongoDB에 저장. 주요 과제] kafka connector 에서 제공되는 log는 json 형식의 굉장히 긴 String 값입니다. debezium document에서 제공되는 key를 접근하는 방법 탐구, 및 디비 저장 구현 예상도] 구축 환경 window - Producer ] - DB : MongoDB - zookeeper server - Kafka server - Kafka connect - Debezium connector window- Consumer ]..
2022.04.17 -
[Kafka_CDC]_Kafka CDC 구현_(3단계- Connector설치)
구축 목표] 실시간으로 DB의 데이터가 변할 때 kafka 를 통해 consumer 에게 메세지 보내기. 구현 예상도] 구축 환경 window - Producer ] - DB : MongoDB - zookeeper server - Kafka server - Kafka connect - Debezium connector Linux - virtualBox - Consumer ] - Kafka server Zookeeper, Kafka Server 설치는 다음 포스트 참고 https://yn971106.tistory.com/81 [Kafka]_설치 와 메세지 전송 테스트 개발환경] 서버 : wsl2로 설치한 Centos * virtual box 로 Linux 설치하여도 무방함 zookeeper , kafka ..
2022.04.13