RDS Postgres 소스 설정 가이드

Amazon RDS Postgres를 ClickPipes 소스로 설정합니다

​

지원되는 Postgres 버전

ClickPipes는 Postgres 12 이상을 지원합니다.

​

논리적 복제 활성화

RDS 인스턴스에 다음 설정이 이미 구성되어 있으면 이 섹션은 건너뛰어도 됩니다:

• rds.logical_replication = 1

이전에 다른 데이터 복제 도구를 사용한 경우에는 일반적으로 이 설정이 미리 구성되어 있습니다.

postgres=> SHOW rds.logical_replication ;
 rds.logical_replication
-------------------------
 on
(1 row)

아직 구성하지 않았다면 다음 단계를 따르십시오.

1. 필요한 설정이 포함된, 사용 중인 Postgres 버전에 맞는 새 파라미터 그룹을 생성합니다.
   • rds.logical_replication을 1로 설정합니다

2. 새 파라미터 그룹을 RDS Postgres 데이터베이스에 적용합니다

3. 변경 사항을 적용하려면 RDS 인스턴스를 재부팅합니다

​

데이터베이스 사용자 구성

RDS Postgres 인스턴스에 관리자 사용자로 접속한 다음, 아래 명령을 실행합니다:

1. ClickPipes 전용 사용자를 생성합니다:

   CREATE USER clickpipes_user PASSWORD 'some-password';
   

2. 이전 단계에서 생성한 사용자에게 스키마(schema) 수준의 읽기 전용 액세스 권한을 부여합니다. 다음 예시는 public 스키마에 대한 권한을 보여줍니다. 복제하려는 테이블이 포함된 각 스키마에 대해 이 명령을 반복하십시오:

   GRANT USAGE ON SCHEMA "public" TO clickpipes_user;
   GRANT SELECT ON ALL TABLES IN SCHEMA "public" TO clickpipes_user;
   ALTER DEFAULT PRIVILEGES IN SCHEMA "public" GRANT SELECT ON TABLES TO clickpipes_user;
   

3. 사용자에게 복제 권한을 부여합니다:

   GRANT rds_replication TO clickpipes_user;
   

4. 복제하려는 테이블을 포함하는 publication을 생성합니다. 성능 오버헤드를 피하려면 publication에는 필요한 테이블만 포함하는 것을 강력히 권장합니다.

publication에 포함되는 모든 테이블은 기본 키(primary key) 가 정의되어 있거나 replica identity 가 FULL로 설정되어 있어야 합니다. 범위를 지정하는 방법에 대한 자세한 내용은 Postgres FAQs를 참조하십시오.

• 특정 테이블에 대한 publication을 생성하려면:

  CREATE PUBLICATION clickpipes FOR TABLE table_to_replicate, table_to_replicate2;
  

  • 특정 스키마의 모든 테이블에 대한 publication을 생성하려면:

    CREATE PUBLICATION clickpipes FOR TABLES IN SCHEMA "public";
    

clickpipes publication은 변경 이벤트가 ClickPipes로 스트리밍될 테이블 집합을 정의합니다. 모든 테이블을 복제하려는 경우가 아니라면 FOR ALL TABLES 사용은 권장하지 않습니다. 불필요한 테이블을 포함하면 Postgres에서 ClickPipes로 전송되는 WAL 트래픽이 증가하고 전체 복제 효율이 저하되기 때문입니다.

​

IAM authentication 사용(선택 사항)

비밀번호 대신 AWS IAM 역할 기반 접근을 사용해 ClickPipes 사용자를 인증할 수 있습니다. 다음과 같이 사용자를 생성한 다음, 위에 나온 것과 동일한 스키마(schema) 및 복제 권한을 부여하십시오:

CREATE USER clickpipes_iam_user;
GRANT rds_iam TO clickpipes_iam_user;

복제에 IAM authentication을 사용하려면 rds.iam_auth_for_replication 매개변수를 1로 설정해야 합니다. 이 기능은 PostgreSQL 11 버전부터 지원되며, 그보다 이전 버전에서는 Initial Load Only ClickPipes만 실행할 수 있습니다.

ClickPipes가 이 방식으로 인증할 수 있도록 필요한 IAM role 및 policy를 설정하는 전체 단계는 AWS IAM DB authentication (RDS/Aurora)를 참조하십시오.

​

네트워크 액세스 설정

​

IP 기반 액세스 제어

RDS 인스턴스로의 트래픽을 제한하려면 문서에 안내된 정적 NAT IP 주소를 RDS 보안 그룹의 인바운드 규칙에 추가하십시오.

​

AWS PrivateLink를 통한 비공개 액세스

비공개 네트워크를 통해 RDS 인스턴스에 연결하려면 AWS PrivateLink를 사용할 수 있습니다. 연결을 설정하려면 ClickPipes용 AWS PrivateLink 설정 가이드를 따르십시오.

​

RDS Proxy 우회 방안

RDS Proxy는 논리적 복제 연결을 지원하지 않습니다. RDS에서 동적 IP 주소를 사용하며 DNS 이름이나 Lambda를 사용할 수 없는 경우, 다음과 같은 대안을 고려할 수 있습니다:

1. cron 작업을 사용해 RDS endpoint의 IP를 주기적으로 확인하고, 변경된 경우 NLB를 업데이트합니다.
2. EventBridge/SNS와 함께 RDS Event Notifications 사용: AWS RDS 이벤트 알림을 사용해 업데이트가 자동으로 수행되도록 트리거합니다.
3. 고정 EC2: EC2 인스턴스를 배포해 폴링 서비스 또는 IP 기반 프록시 역할을 하도록 구성합니다.
4. Terraform 또는 CloudFormation 같은 도구를 사용해 IP 주소 관리를 자동화합니다.

​

다음 단계

이제 ClickPipe를 생성하고 Postgres 인스턴스의 데이터를 ClickHouse Cloud로 수집하기 시작할 수 있습니다. ClickPipe 생성 과정에서 필요하므로 Postgres 인스턴스를 설정할 때 사용한 연결 정보를 반드시 기록해 두십시오.