Notice
Recent Posts
Recent Comments
Link
250x250
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 | 31 |
Tags
- spark
- 모바일
- spring boot
- Java
- 쿠버네티스
- numpartitions
- docker
- KubernetesPodOperator
- 도커
- Python
- UI for kafka
- bar cahrt
- 크롤링
- Materializations
- query history
- freshness
- CDC
- dbt_project
- mysql
- k9s
- proerty
- airflow
- 동적 차트
- 윈도우
- DBT
- kafka
- polars
- 파이썬
- 카프카
- ksql
Archives
- Today
- Total
데이터 엔지니어 이것저것
CDC 특정 컬럼 제외 본문
728x90
CDC를 하다보면 개인정보 또는 불필요한 컬럼을 이관하지 않아야 하는경우가 있다.
그럴경우 source에 추가를 하면 되는데
{
"name":"inventory-connector",
"config":{
"connector.class":"io.debezium.connector.mysql.MySqlConnector",
"tasks.max":"1",
"database.hostname":"mysql",
"database.port":"3306",
"database.user":"root",
"database.password":"debezium",
"database.server.name":"test",
"database.include.list":"inventory",
"database.history.kafka.bootstrap.servers":"kafka1:29092,kafka2:29092,kafka3:29092",
"database.allowPublicKeyRetrieval":"true",
"database.history.kafka.topic":"schema-changes.inventory",
"key.converter": "io.confluent.connect.avro.AvroConverter",
"value.converter": "io.confluent.connect.avro.AvroConverter",
"key.converter.schema.registry.url": "http://schema-registry:8081",
"value.converter.schema.registry.url": "http://schema-registry:8081",
"column.exclude.list": "inventory.school.secret"
}
}
제외하고자 하는 컬럼을 스키마.테이블.컬럼 이런식으로 입력하면 된다.
"column.exclude.list": "inventory.school.secret"
적용을 하기전 전체가 넘어갔지만, 적용 후에는 null로 넘어간것을 볼수있다.
728x90
'오픈소스 > kafka' 카테고리의 다른 글
python 으로 ksql 사용하기 (0) | 2023.10.29 |
---|---|
Ksql 사용해보기 (0) | 2023.10.29 |
카프카 커넥터를 이용하여 CDC (0) | 2023.10.28 |
UI for kafka (0) | 2023.07.01 |
CCDAK 후기 (1) | 2023.06.30 |