데이터 엔지니어 이것저것

CDC 특정 컬럼 제외 본문

오픈소스/kafka

CDC 특정 컬럼 제외

pastime 2023. 10. 28. 19:27
728x90

CDC를 하다보면 개인정보 또는 불필요한 컬럼을 이관하지 않아야 하는경우가 있다.

그럴경우 source에 추가를 하면 되는데

 

{
    "name":"inventory-connector",
    "config":{
       "connector.class":"io.debezium.connector.mysql.MySqlConnector",
       "tasks.max":"1",
       "database.hostname":"mysql",
       "database.port":"3306",
       "database.user":"root",
       "database.password":"debezium",
       "database.server.name":"test",
       "database.include.list":"inventory",
       "database.history.kafka.bootstrap.servers":"kafka1:29092,kafka2:29092,kafka3:29092",
       "database.allowPublicKeyRetrieval":"true",
       "database.history.kafka.topic":"schema-changes.inventory",
        "key.converter": "io.confluent.connect.avro.AvroConverter",
        "value.converter": "io.confluent.connect.avro.AvroConverter",
        "key.converter.schema.registry.url": "http://schema-registry:8081",
        "value.converter.schema.registry.url": "http://schema-registry:8081",
        "column.exclude.list": "inventory.school.secret"
    }
 }

제외하고자 하는 컬럼을 스키마.테이블.컬럼 이런식으로 입력하면 된다.

"column.exclude.list": "inventory.school.secret"

 

 

적용 전 후

적용을 하기전 전체가 넘어갔지만, 적용 후에는 null로 넘어간것을 볼수있다.

 

728x90

'오픈소스 > kafka' 카테고리의 다른 글

python 으로 ksql 사용하기  (0) 2023.10.29
Ksql 사용해보기  (0) 2023.10.29
카프카 커넥터를 이용하여 CDC  (0) 2023.10.28
UI for kafka  (0) 2023.07.01
CCDAK 후기  (1) 2023.06.30